California demanda a OpenAI por el ataque de una IA descontrolada contra Hugging Face

- California demandó a OpenAI el lunes por un incidente ocurrido en julio de 2026, en el que los agentes experimentales de IA de la empresa escaparon de un entorno de prueba y atacaron Hugging Face, alegando que unas salvaguardias deficientes crearon una molestia pública y violaron la ley de protección al consumidor.
- La demanda afirma que OpenAI perdió el control de sus agentes más de 80 veces.
- Se informa que es la primera demanda de este tipo presentada por un estado de EE. UU. y podría influir en cómo los reguladores persiguen a las empresas de IA cuyos modelos actúan por sí mismos.
El Fiscal General de California, Rob Bonta, demandó a OpenAI el lunes, alegando que la empresa detrás de ChatGPT puso en riesgo a las personas al crear sistemas de IA sin suficientes controles de seguridad.
La demanda sigue a un incidente ocurrido en julio de 2026, cuando se informó que las herramientas de IA de OpenAI, que estaban siendo probadas, perdieron el control y atacaron los sistemas informáticos de la empresa rival Hugging Face.
Bonta presentó la demanda ante el Tribunal Superior de San Francisco contra OpenAI Foundation y OpenAI Group PBC.
Según The New York Times, la demanda de 31 páginas alega que OpenAI puso en riesgo la seguridad pública y violó la Ley de Competencia Desleal de California. Esta ley prohíbe a las empresas utilizar prácticas comerciales ilegales, desleales o deshonestas.
Ataque a Hugging Face deriva en demanda
En julio de 2026, se informó que los agentes experimentales de IA de OpenAI salieron de su sistema de pruebas y se conectaron a Internet. Luego irrumpieron en Hugging Face, un sitio web donde los desarrolladores comparten código y modelos de IA.
Según la demanda, cientos de agentes de IA trabajaron juntos en el ataque, que duró aproximadamente dos días y medio. Se suponía que los agentes debían permanecer dentro de un sistema de prueba seguro.
Los agentes también intentaron encubrir lo que habían hecho. OpenAI asumió la responsabilidad del ataque en un artículo de blog publicado el 21 de julio y compartió más detalles en otro informe el 26 de agosto.
En el segundo informe, OpenAI calificó el incidente como una "señal de advertencia" para la industria de la IA. Indicó que los agentes habían demostrado que podían "eludir los controles técnicos, colaborar a través de canales no aprobados y realizar acciones peligrosas que ningún humano dirigió."
California preocupada por 80 incidentes similares
La oficina del fiscal general Rob Bonta afirmó que OpenAI podría haber evitado el ataque a Hugging Face. La demanda sostiene que la empresa sabía que sus modelos de IA eran peligrosos, pero aun así los probó sin suficientes medidas de seguridad ni controles adecuados.
La demanda también indica que OpenAI informó a la oficina de Bonta que había perdido el control de sus agentes de IA más de 80 veces durante las pruebas.
En algunos casos, los agentes supuestamente atacaron bases de datos que contenían código utilizado por aplicaciones populares. Otros accieron a sitios web públicos y obtuvieron acceso a una base de datos gubernamental extranjera que contenía información médica privada.
La demanda también afirma que algunos agentes de IA irrumpieron en los propios sistemas informáticos de OpenAI y obtuvieron acceso normalmente reservado para administradores de sistemas.
En un comunicado, Bonta declaró que California desea “una innovación que cumpla con la ley, independientemente del producto o la empresa”. Añadió que el ataque a Hugging Face fue “solo uno de los 80 incidentes conocidos”.
OpenAI rechaza ser señalada como única responsable
El portavoz de OpenAI, Drew Pusateri, dijo que la demanda “parece señalar exclusivamente a OpenAI por un problema que ha sido identificado por todos los principales laboratorios de IA.”
Afirmó que OpenAI había realizado "un esfuerzo extenso y transparente para comprender y abordar la actividad de los modelos desalineados" desde el ataque. La empresa también planea seguir trabajando con los reguladores estatales para mejorar las normas de seguridad de la IA.
Otras empresas de IA definitivamente han enfrentado problemas similares. Según la BBC, Anthropic, Meta y Google han reportado casos en los que sus modelos de IA se escaparon de los sistemas de prueba y llevaron a cabo ataques.
Los tribunales aún deben decidir quién es legalmente responsable cuando los sistemas de IA actúan sin instrucciones humanas.
La primera demanda estatal de este tipo
La oficina de Bonta comenzó a investigar el ataque a Hugging Face en septiembre y emitió una citación judicial exigiendo información a OpenAI.
La demanda alega que OpenAI no proporcionó a los investigadores toda la información solicitada. En su lugar, la empresa compartió publicaciones públicas en su blog y unas pocas docenas de mensajes con gran parte de la información eliminada.
Según la BBC, este parece ser la primera vez que un estado de EE. UU. presenta una demanda por un incidente relacionado con IA. El caso también podría ayudar a otros estados a decidir qué medidas tomar cuando las empresas de IA pierdan el control de sus sistemas.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.

Opeyemi Olanrewaju
Opeyemi se especializa en crear y refinar contenido de alta calidad centrado en criptomonedas, mercados financieros globales y la economía. Se graduó de la Universidad de Ibadan con un título de MBBS. Ha trabajado como Editor Jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, ha ayudado a salvaguardar la originalidad como editor de noticias en Cryptopolitan.















