Anthropic defiel brutal ultimátum del Pentágono para eliminar las salvaguardas de la IA

Anthropic ha dicho que no dará marcha atrás en una pelea con el Departamento de Defensa de Estados Unidos (DoD) sobre cómo se utiliza su tecnología de inteligencia artificial (IA).

de la startup, rivales OpenAI, Google y xAI, también recibierontracde hasta 200 millones de dólares del Departamento de Defensa el año pasado. Estas empresas se comprometieron a permitir que el Departamento de Defensa utilizara sus modelos para todos los fines legales dentro de los sistemas no clasificados del ejército.

Anthropic firmó su propiotracde 200 millones de dólares con el Departamento de Defensa en julio, y fue el primer laboratorio en integrar sus modelos en flujos de trabajo de misiones en redes clasificadas.

Sin embargo, la empresa emergente de inteligencia artificial ha estado inmersa en tensas negociaciones con el Pentágono en las últimas semanas. Una persona familiarizada con las negociaciones afirmó que las tensiones “se remontan a varios meses atrás”, antes de que se supiera públicamente que Claude había sido utilizado como parte de una operación estadounidense para capturar al presidente venezolanodent Maduro.

La disputa central sobre autónomas las armas

Anthropic quiere garantías de que sus modelos no se utilizarán para armas totalmente autónomas ni para la vigilancia masiva de ciudadanos estadounidenses, mientras que el Departamento de Defensa quiere poder utilizar los modelos sin esas restricciones.

Respecto a estos riesgos específicos, Dario Amodei declaró: «En un número limitado de casos, creemos que la IA puede socavar, en lugar de defender, los valores democráticos. Algunos usos, sencillamente, exceden las capacidades de la tecnología actual, que puede garantizar su seguridad y fiabilidad».

Ampliando la información sobre las preocupaciones relacionadas con la vigilancia, Dario Amodei afirmó en su declaración que la potente IA permite "reunir estos datos dispersos e individualmente inofensivos para crear una imagen completa de la vida de cualquier persona, de forma automáticamatica gran escala".

Señaló que, si bien Anthropic apoya el uso de la IA para la inteligencia exterior legítima, "el uso de estos sistemas para la vigilancia masiva interna es incompatible con los valores democráticos".

Amenazas, plazos y una guerra de palabras

secretario de Defensa, Pete Hegseth, quien se reunió con Amodei en el Pentágono el martes, amenazó con catalogar a Anthropic como un "riesgo para la cadena de suministro" o con invocar la Ley de Producción de Defensa para obligar a la empresa a cumplir con sus exigencias. El Departamento de Defensa envió a Anthropic su "última y definitiva oferta" el miércoles por la noche, dándole a la empresa hasta las 5:01 p. m. (hora del este) del viernes para decidir.

Una portavoz de Anthropic declaró que, si bien la empresa recibió una redacción actualizada el miércoles por la noche, esto no representaba "prácticamente ningún progreso" y que "el nuevo lenguaje, presentado comouncompromiso, iba acompañado de jerga legal que permitiría ignorar esas medidas de seguridad a voluntad".

Ante estas presiones, Dario Amodei declaró :«El Departamento de Guerra ha afirmadoquesolo contratarátracempresas de IA que acepten "cualquier uso lícito" y eliminen las medidas de seguridad en los casos mencionados. Han amenazado con excluirnos de sus sistemas si mantenemos dichas medidas; también han amenazado con designarnos como un " riesgo para la cadena de suministro"... En cualquier caso, estas amenazas no modifican nuestra postura: no podemos, en conciencia, acceder a su petición».

El portavoz principal del Pentágono, Sean Parnell, declaró el jueves que el Departamento de Defensa no tiene ningún interés en utilizar los modelos de Anthropic para armas totalmente autónomas ni para llevar a cabo la vigilancia masiva de ciudadanos estadounidenses, lo cual, según señaló, es ilegal. Enfatizó que la agencia desea que la empresa acepte que sus modelos se utilicen para todos los fines lícitos, calificándolo de una solicitud sencilla y de sentido común.

Sin embargo, el subsecretario de Defensa de Estados UnidosEmil, Michael, atacó personalmente a Amodei el jueves por la noche, escribiendo en X que el ejecutivo "no desea otra cosa que intentar controlar personalmente al ejército estadounidense". Michael añadió: "Es una pena que Dario Amodei sea un mentiroso y tenga complejo de superioridad"

Por otro lado, en una carta abierta, más de 200 trabajadores de Google y OpenAI respaldaron la postura de Anthropic. Un exfuncionario del Departamento de Defensa también declaró a la BBC que las justificaciones de Hegseth para usar el término "riesgo en la cadena de suministro" eran "sumamente endebles".

A pesar del conflicto, Dario Amodei afirmó en su declaración que está "profundamente convencido de la importancia existencial de usar la IA para defender a Estados Unidos". La organización sigue "dispuesta a continuar las conversaciones y comprometida con la continuidad operativa del Departamento y de los combatientes estadounidenses", declaró un representante de Anthropic.