Anthropic ha dicho que no dará marcha atrás en una pelea con el Departamento de Defensa de Estados Unidos (DoD) sobre cómo se utiliza su tecnología de inteligencia artificial (IA).
rivales de la startup, OpenAI, Google y xAI, también obtuvieron trac por hasta 200 millones de dólares del Departamento de Defensa el año pasado. Estas empresas han acordado permitir que el Departamento de Defensa utilice sus modelos para todos los fines legales dentro de los sistemas no clasificados del ejército.
Anthropic firmó su propiotracde 200 millones de dólares con el Departamento de Defensa en julio, y fue el primer laboratorio en integrar sus modelos en flujos de trabajo de misiones en redes clasificadas.
Sin embargo, la startup de inteligencia artificial ha estado envuelta en tensas negociaciones con el Pentágono en las últimas semanas. Una persona familiarizada con las negociaciones afirmó que las tensiones se remontan a varios meses atrás, antes de que se hiciera público que Claude había sido utilizado en una operación estadounidense para capturar al presidente venezolano dent Maduro.
La disputa central sobre las armas autónomas
Anthropic quiere garantías de que sus modelos no se utilizarán para armas totalmente autónomas ni para la vigilancia masiva de ciudadanos estadounidenses, mientras que el Departamento de Defensa quiere poder utilizar los modelos sin esas restricciones.
Respecto a estos riesgos específicos, Dario Amodei afirmó en su declaración: «En un conjunto reducido de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos. Algunos usos simplemente exceden los límites de lo que la tecnología actual puede hacer de forma segura y fiable».
Ampliando las preocupaciones sobre la vigilancia, Dario Amodei dijo en su declaración que la poderosa IA permite "reunir estos datos dispersos e individualmente inocuos en una imagen completa de la vida de cualquier persona, de manera automática matic a escala masiva".
Señaló que si bien Anthropic apoya el uso de IA para inteligencia extranjera legal, “el uso de estos sistemas para vigilancia doméstica masiva es incompatible con los valores democráticos”.
Amenazas, plazos y una guerra de palabras
secretario de Defensa, Pete Hegseth, quien se reunió con Amodei en el Pentágono el martes, amenazó con etiquetar a Anthropic como un "riesgo para la cadena de suministro" o invocar la Ley de Producción de Defensa para obligarla a cumplir con sus exigencias. El Departamento de Defensa envió a Anthropic su "oferta final" el miércoles por la noche, dándole a la compañía hasta las 17:01 ET del viernes para tomar una decisión.
Una portavoz de Anthropic dijo que si bien la compañía recibió un texto actualizado el miércoles por la noche, esto "prácticamente no representó ningún progreso" y que "el nuevo lenguaje enmarcado como un compromiso estaba acompañado de jerga legal que permitiría que esas salvaguardas se ignoraran a voluntad".
En respuesta a estas presiones, Dario Amodei declaró : «El Departamento de Guerra ha declarado que solo contratará trac empresas de inteligencia artificial que acepten cualquier uso legal y eliminen las salvaguardas en los casos mencionados. Han amenazado con eliminarnos de sus sistemas si mantenemos estas salvaguardas; también han amenazado con designarnos como un riesgo para la cadena de suministro... En cualquier caso, estas amenazas no cambian nuestra postura: no podemos, en conciencia, acceder a su solicitud».
El portavoz principal del Pentágono, Sean Parnell, declaró el jueves que el Departamento de Defensa no tiene ningún interés en utilizar los modelos de Anthropic para armas totalmente autónomas ni para realizar vigilancia masiva de estadounidenses, lo cual, según señaló, es ilegal. Enfatizó que la agencia quiere que la compañía acepte permitir que sus modelos se utilicen para todos los fines legales, calificándolo de "simple solicitud de sentido común".
Sin embargo, el subsecretario de Defensa y Asuntos Exteriores UU Michael, atacó personalmente a Amodei el jueves por la noche, escribiendo en X que el ejecutivo "no busca nada más que intentar controlar personalmente a las Fuerzas Armadas de EE. UU." Michael agregó: "Es una pena que Dario Amodei sea un mentiroso y tenga complejo de Dios "
Por otro lado, en una carta abierta , más de 200 trabajadores de Google y OpenAI apoyaron la postura de Anthropic. Un exfuncionario del Departamento de Defensa también declaró a la BBC que las justificaciones de Hegseth para usar el término "riesgo de la cadena de suministro" eran "extremadamente endebles".
A pesar del conflicto, Dario Amodei afirmó en su declaración que está "profundamente convencido de la importancia existencial del uso de la IA para defender a Estados Unidos". La organización sigue "lista para continuar las conversaciones y comprometida con la continuidad operativa del Departamento y de los combatientes estadounidenses", afirmó un representante de Anthropic.
