Anthropic obtiene una gran victoria legal cuando un juez anula la lista negra de IA del Pentágono

La jueza del Distrito de EE. UU., Rita Lin, acaba de dictaminar que el Pentágono penalizó ilegalmente a Anthropic con su designación de «riesgo de cadena de suministro». A principios de este año, el Pentágono etiquetó a la empresa como un riesgo para la seguridad nacional después de que las negociaciones se rompieran. En ese momento, Anthropic aún insistía en salvaguardas éticas que prohibieran la vigilancia masiva y la guerra totalmente automatizada. 

El tribunal ha determinado ahora que el Departamento de Defensa instrumentalizó su autoridad de cadena de suministro para disciplinar públicamente a Anthropic, señalando que el gobierno carecía de cualquier justificación lógica para su reclamo de seguridad nacional.

«Ni la Constitución ni la ley federal invocada por los Demandados les permiten imponer sanciones generalizadas basadas principalmente en la crítica de Anthropic a las opiniones de la Administración», sostuvo la jueza Lin.

La jueza Lin criticó la decisión del gobierno de incluir a Anthropic en la lista negra como arbitraria

Durante algún tiempo, el Pentágono había estado negociando con cuatro empresas líderes de IA, incluida Anthropic, sobre permitir que el ejército utilizara su tecnología para operaciones de defensa e inteligencia altamente sensibles. Sin embargo, el creador de Claude mantuvo su postura, afirmando que la vigilancia masiva y la guerra autónoma estaban fuera de los límites para sus modelos.

Después de conversaciones cada vez más tensas, las negociaciones se rompieron por completo. Anthropic fue posteriormente nombrada un riesgo de cadena de suministro en marzo, una primera para una empresa de EE. UU., efectivamente bloqueando a los contratistas de defensa de utilizar su tecnología en proyectos relacionados con el Pentágono.

Más tarde, Anthropic impugnó la administración Trump en los tribunales de San Francisco y Washington, D.C., buscando anular su designación de riesgo de cadena de suministro. Sin embargo, el DOD se basó en dos autoridades legales diferentes, obligando a Anthropic a perseguir casos separados en dos tribunales.

 Aunque la resolución del jueves fue una gran victoria para Anthropic, su caso paralelo en D.C. sigue activo, lo que significa que el estado de riesgo de seguridad de la empresa aún no está completamente despejado.

La jueza Lin escribió en su fallo: «El registro indiscutible muestra que las acciones impugnadas constituyeron una represalia ilegal en violación de la Primera Enmienda, y que se negó a Anthropic el proceso previo a la privación requerido bajo la Quinta Enmienda». También describió la decisión del gobierno como arbitraria y caprichosa. 

El fallo podría sentar un precedente para las disputas entre IA y el gobierno

La decisión puede no tener una línea de visión clara; sin embargo, el caso de Anthropic tendrá implicaciones más inmediatas: el gobierno de EE. UU. busca profundizar sus vínculos con las empresas de IA para la defensa y la seguridad nacional.

Este caso muestra que, frente a las cada vez mayores demandas del gobierno para acceder a sistemas avanzados de IA que las empresas buscan proteger, la cuestión de cómo y por qué utilizar los modelos está en duda.

La posición de Anthropic sobre la vigilancia masiva y las armas autónomas la ha colocado en el centro de este debate. Las empresas de IA están proporcionando cada vez más a los gobiernos modelos poderosos, pero el fallo sugiere que las agencias federales no pueden simplemente castigar a una empresa por estar en desacuerdo con la política del gobierno sin cumplir con los requisitos legales que rigen tales acciones.

El caso también puede hacer que otros desarrolladores de IA estén más dispuestos a establecer límites claros para las aplicaciones militares. Al mismo tiempo, el Pentágono puede necesitar repensar cómo maneja a las empresas que imponen restricciones al uso de su tecnología, particularmente cuando esas restricciones involucran aplicaciones controversiales de seguridad nacional.

Anthropic ha apreciado desde entonces la resolución de Lin. Señaló: «Damos la bienvenida a la resolución del tribunal de que esta designación de riesgo de cadena de suministro era ilegal. Seguimos centrados en trabajar de manera productiva con el gobierno para aprovechar la IA para nuestra seguridad nacional para que todos los estadounidenses se beneficien de esta tecnología».

Anteriormente, la firma también había declarado que presentó las demandas para volver a la normalidad de los negocios, en lugar de forzar al Pentágono a reanudar su asociación.

Anthropic está introduciendo un nuevo estándar de hardware

Mientras tanto, Anthropic acaba de desarrollar un nuevo estándar que podría ayudar a los asistentes de IA a conectarse con robots y equipos especializados utilizados en laboratorios y fábricas. La firma está lanzando el Estándar de Hardware de Modelo (MHS) como una vista previa de investigación, dando a los desarrolladores de robótica, ciencia y fábricas la oportunidad de probar las interacciones en el mundo real de Claude y corregir errores de seguridad antes de un lanzamiento completo. 

Según la compañía, el estándar le dará a los asistentes de IA un conjunto claro de instrucciones para comprender y operar equipos físicos, en lugar de obligarlos a depender de manuales o de un pequeño grupo de especialistas. También declaró que las empresas y otras partes interesadas de la industria pueden registrarse para probar MHS durante su fase de vista previa. Planea abrir el marco una vez que termine la vista previa, pero no ha dicho cuándo ocurrirá eso. 

«Con MHS, Claude puede ser ese tipo de habilitador para los científicos, ya que pueden usar el equipo adecuado de manera experta», dijo Jonah Cool, jefe de asociaciones y despliegue en el brazo de ciencias de la vida de Anthropic. 

Basándose en el éxito pasado, la firma introdujo el Protocolo de Contexto de Modelo (MCP) para cerrar la brecha entre los asistentes de IA y software como Google Calendar y Slack. 

«Lo que MCP hizo por el software, MHS lo hará por el mundo del hardware», dijo Alek Kemeny, miembro del personal técnico en Anthropic.