El Departamento de Defensa de Estados Unidos y la empresa de IA Anthropic están inmersos en un conflicto sobre el uso militar de la inteligencia artificial, informa Reuters citando a varias fuentes cercanas al asunto. En el centro de la disputa se encuentran las salvaguardas: Anthropic exige garantías de que sus herramientas de IA no se utilizarán para el control autónomo de armas sin una supervisión humana adecuada ni para la vigilancia de ciudadanos estadounidenses.

El Pentágono, rebautizado por la administración Trump como “Department of War”, rechaza estas limitaciones. Según un memorando del 9 de enero sobre la estrategia de IA, el ministerio insiste en poder utilizar tecnología comercial de inteligencia artificial con independencia de las políticas de uso de los fabricantes, siempre que se respeten las leyes estadounidenses. Las negociaciones sobre un contrato valorado en hasta 200 millones de dólares se encuentran actualmente estancadas.

Anthropic en una posición delicada

El CEO de Anthropic, Dario Amodei, escribió esta semana en una entrada de blog que la IA debería apoyar la defensa nacional “de todas las maneras posibles, excepto aquellas que nos harían más parecidos a nuestros adversarios autocráticos”. También calificó como un “horror” los disparos mortales contra ciudadanos estadounidenses durante protestas contra medidas migratorias en Minneapolis. Según Reuters, estos hechos han intensificado las preocupaciones de algunos en Silicon Valley sobre el uso estatal de sus herramientas para posibles actos de violencia. Anthropic mantiene contratos con Palantir, que a su vez trabaja directamente con la agencia estadounidense ICE, implicada en dichos incidentes.

No obstante, el Pentágono probablemente necesitaría la cooperación de Anthropic, ya que los modelos de la empresa están entrenados para evitar acciones potencialmente dañinas, y sus empleados tendrían que adaptar la IA a las necesidades del Departamento de Defensa. El conflicto llega en un momento delicado para Anthropic, que prepara su salida a bolsa y, según Reuters, ha invertido recursos significativos en el negocio de la seguridad nacional.