Trump ordena a las agencias de EE. UU. detener el uso de la IA de Anthropic tras una disputa ética con el Pentágono

El Presidente de EE. UU., Donald Trump, puso a Anthropic en la lista negra, ordenando una prohibición federal de su tecnología tras un intenso desacuerdo entre la empresa de IA y el Pentágono sobre asuntos relacionados con la aplicación militar de esta tecnología.

En este momento, las negociaciones entre Anthropic y el Departamento de Defensa se habían estancado, ya que ambas partes se negaron a ceder, mientras se acercaba la fecha límite para llegar a un acuerdo. Respecto a la solicitud del Pentágono, las fuentes dijeron que los funcionarios de la sede del Departamento de Defensa de los Estados Unidos exigieron que Anthropic relajara sus pautas éticas; el incumplimiento podría resultar en graves repercusiones. 

Mientras tanto, Trump compartió una publicación en Truth Social que describía su punto de vista sobre el asunto. En la publicación, señaló que, “Los extremistas de izquierda en Anthropic han cometido un ERROR DESASTROSO al intentar INTIMIDAR al Departamento de Guerra y obligarlos a seguir sus Términos de Servicio en lugar de nuestra Constitución”, añadiendo además que, “NOSOTROS determinaremos el futuro de nuestro país – NO alguna empresa de IA radical de izquierda fuera de control liderada por personas que no entienden cómo es el mundo real”. Cabe destacar que, durante este tiempo, la fecha límite estaba a solo una hora de distancia.

El disputa Anthropic-Pentágono genera preocupaciones de seguridad 

Anteriormente, Anthropic rechazó la solicitud de los funcionarios del Pentágono de que los contratistas otorgaran aprobación para la utilización de sus sistemas para cualquier propósito legal. En este punto, la empresa de IA se negó a relajar las limitaciones que impedían Claude ser utilizada efectivamente para vigilancia doméstica masiva o para armas totalmente autónomas.

Dada la intensidad de la situación, Trump caracterizó el incidente como una amenaza significativa para las tropas estadounidenses y la seguridad nacional. En una declaración, argumentó que, “Su egoísmo está poniendo en riesgo vidas estadounidenses, poniendo a nuestras tropas en peligro y poniendo en peligro nuestra seguridad nacional.” 

Tras el argumento de Trump, los informes destacaron que Sam Altman, CEO de OpenAI, demostró esfuerzos por calmar las cosas. Aun así, varios analistas admitieron que reducir las tensiones sigue siendo una tarea difícil.

Por otro lado, Pete Hegseth, Secretario de Defensa de los Estados Unidos, argumentó que etiquetar a Anthropic como un riesgo de cadena de suministro amenazaba con terminar la conexión entre los proveedores militares de EE. UU. y la empresa de IA.

Hegseth hizo estos comentarios aproximadamente 24 horas después de que el CEO de Anthropic, Dario Amodei, emitiera una declaración alegando que su firma no puede cumplir con la solicitud del Departamento de Defensa. Según él, la solicitud iba en contra de la conciencia de Anthropic.

Esta situación llevó a los analistas a realizar investigaciones, lo que reveló que el disputa de contratos de defensa se centra en la IA en la seguridad nacional. Mientras tanto, después de meses de diálogo privado, la empresa de IA decidió recientemente hacer pública la discusión, señalando que el nuevo lenguaje contractual, enmarcado como un compromiso, estaba escrito en jerga legal que efectivamente hacía que las protecciones declaradas fueran susceptibles de ser ignoradas constantemente.

La IA generativa asegura popularidad entre varias empresas en medio de la era del auge de la IA 

Respecto al acalorado conflicto entre Anthropic y el Pentágono, los informes destacaron que el campo de la IA generativa utiliza modelos avanzados para crear código de software, texto, imágenes y otras salidas realistas pero inexactas que imitan de cerca la creatividad humana. Para lograr este resultado, algunas fuentes notaron que los modelos funcionan identificando patrones subyacentes en los datos de entrenamiento para producir respuestas conscientes del contexto a las entradas del usuario.

En este punto, cabe señalar que la IA generativa va más allá del mero análisis para generar contenido activamente. Según la investigación de los analistas, esta capacidad podría revolucionar numerosas industrias, incluida la defensa. Al mismo tiempo, desarrollar estos modelos plantea serios desafíos, incluidas preocupaciones éticas y riesgos existenciales potenciales.

Aun así, varias empresas han demostrado un fuerte compromiso de asignar fondos sustanciales al campo. Por ejemplo, los funcionarios del Pentágono emitieron una declaración el verano pasado afirmando que habían asegurado contratos individuales con los principales actores de la industria, incluidos OpenAI, Anthropic, Google y xAI. Cabe destacar que cada contrato se informó que tenía un valor de $200 millones, particularmente para iniciativas de inteligencia artificial de vanguardia.

En este momento particular, los informes destacaron que Anthropic se ve a sí misma como una empresa comprometida con el desarrollo y despliegue responsable de tecnologías de IA. Para subrayar esta dedicación, la empresa se etiqueta como una “Corporación de Beneficio Público”, afirmando su compromiso de desarrollar y mantener una IA avanzada y segura para el beneficio duradero de la humanidad.