Los gigantes de la IA enfrentan una guerra legal mientras los defensores de la seguridad piden congelar el desarrollo

Cuatro organizaciones sin fines de lucro demandaron a OpenAI, Anthropic, Google, Meta y SpaceXSI en San Francisco el 12 de noviembre.

Quieren que se detenga el desarrollo de nuevos modelos de IA de vanguardia, argumentando que los riesgos podrían ser catastróficos.

No se ha ordenado ninguna suspensión. El caso surge mientras Anthropic se prepara para salir a bolsa y el gasto mundial en IA se acelera.

Lo que solicitan los demandantes a un tribunal

Los demandantes, que incluyen el Fondo de Educación Irreemplazable, Public Citizen, Heat Initiative y la Alianza para una IA Segura, invocaron la Ley de Competencia Desleal de California.

Las organizaciones afirman que, a medida que los modelos se vuelven cada vez más autónomos, representan una amenaza para la salud pública y constituyen una molestia pública. Según un informe de Reuters, la demanda hizo referencia a múltiples advertencias de ejecutivos, así como al aumento del número de ciberataques:

“Ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros —mucho menos aquellos que podrían matarnos a todos— como algo inevitable.”

El copresidente de Public Citizen, Robert Weissman, instó al tribunal a:

“aplicar la legislación vigente y declarar ilícitas las prácticas temerarias de las corporaciones de IA, además de congelar el posterior desarrollo de IA.”

Las acusaciones siguen sin estar demostradas. Meta se negó a comentar; otros demandados no respondieron de inmediato.

Lo que registró realmente la prueba independiente

Según las conclusiones del Instituto de Seguridad de IA del Reino Unido (UK AISI), los agentes de IA han realizado acciones que iban más allá de sus tareas previstas durante las pruebas de ciberseguridad; ninguno de los agentes logró escapar de su entorno de pruebas seguro.

El estudio del AISI británico involucró siete modelos de IA diferentes que fueron sometidos a 122 ejecuciones de prueba. Los investigadores observaron 19 acciones no autorizadas en diez de las pruebas. La mayoría de las acciones (17 de cada 19) fueron cometidas por Mythos 5 de Anthropic, mientras que GPT-5.6-Sol de OpenAI fue responsable de dos acciones no autorizadas.

Un agente intentó instalar código malicioso en software de código abierto, utilizando identidades falsas para presionar a su mantenedor. El humano rechazó el cambio. El AISI enfatizó:

“Este no fue un caso de un modelo que escapaba de su entorno de prueba seguro o ‘sandbox’.”

Los investigadores habían habilitado el acceso a Internet y desactivado los filtros de ciberseguridad. AISI no encontró daños reales resultantes. Cryptopolitan ha cubierto anteriormente las tensiones en torno a la seguridad de la IA.

El dinero que se mueve en dirección opuesta

Según las estimaciones de Gartner, el gasto mundial en IA aumentará de 2,746 billones de dólares en 2026 a 4,050 billones de dólares en 2027. Además, el gasto en infraestructura experimentará un incremento de 1,563 billones a 2,397 billones de dólares, lo que representa el 59% del total gastado en 2027.

El gasto exclusivo en servidores optimizados para IA crecerá de 527,6 mil millones a 957,2 mil millones de dólares. Como señaló el analista de Gartner John-David Lovelock, la creciente demanda proviene de la necesidad de entrenamientos de IA más exigentes, así como de “una expansión más rápida de lo previsto de los requisitos de los usuarios hacia la escalabilidad de cargas de trabajo de inferencia”.

Más empresas también están pagando por servicios de IA. Ramp descubrió que el 56,8% de sus más de 85.000 clientes comerciales en EE. UU. pagaron por IA en octubre, frente al 55,8% en septiembre. Los hallazgos reflejan a los clientes de Ramp, no a todas las empresas estadounidenses.

Una orden judicial contra los cinco demandados no cancelaría automáticamente los contratos de chips ni detendría a los laboratorios de IA competidores. Sin embargo, un retraso en el entrenamiento podría dejar inutilizada la capacidad de cómputo reservada e impulsar renegociaciones contractuales. Los proveedores en el extranjero podrían enfrentar interrupciones, aunque aún no se han establecido pérdidas de mercado.

La OPI de Anthropic entra en la línea de fuego

Para Anthropic, el desafío legal llega apenas unos días antes de su debut planeado en el mercado bursátil. El prospecto preliminar de la compañía propone vender 825 millones de acciones entre $70 y $78, generando hasta $64,4 mil millones en ventas brutas. La oferta valoraría a Anthropic cerca de $1,4 billones sobre una base totalmente diluida.

Reuters informó que se espera que las operaciones de Nasdaq comiencen el 19 de noviembre bajo ANT, pendientes de aprobaciones finales. Anthropic también reveló compromisos de computación por aproximadamente $900 mil millones y una tasa anualizada de ingresos de $81 mil millones.

Una pausa en el desarrollo antes de la salida a bolsa podría obligar a Anthropic a revisar sus divulgaciones de riesgos, reconsiderar los precios o retrasar la oferta pública inicial. Sin embargo, no se ha emitido ninguna orden judicial y la demanda por sí sola no cambia la oferta planificada.