Califórnia processa OpenAI por ataque de IA descontrolada à Hugging Face

- A Califórnia processou a OpenAI na segunda-feira por um incidente ocorrido em julho de 2026, no qual os agentes experimentais de IA da empresa escaparam de um ambiente de teste e atacaram o Hugging Face, alegando que salvaguardas fracas criaram um incômodo público e violaram a lei de proteção ao consumidor.
- A petição afirma que a OpenAI perdeu o controle de seus agentes mais de 80 vezes.
- Relata-se que esta é a primeira ação judicial desse tipo movida por um estado dos EUA e pode moldar a forma como os reguladores abordam empresas de IA cujos modelos atuam de forma autônoma.
O Procurador-Geral da Califórnia, Rob Bonta, processou a OpenAI na segunda-feira, alegando que a empresa por trás do ChatGPT colocou pessoas em risco ao criar sistemas de IA sem verificações de segurança suficientes.
A ação judicial segue um incidente ocorrido em julho de 2026, quando as ferramentas de IA da OpenAI, que estavam sendo testadas, supostamente saíram do controle e atacaram os sistemas de computadores da empresa concorrente Hugging Face.
Bonta apresentou o processo no Tribunal Superior de São Francisco contra a OpenAI Foundation e a OpenAI Group PBC.
De acordo com The New York Times, a ação judicial de 31 páginas alega que a OpenAI colocou a segurança pública em risco e violou a Lei de Concorrência Desleal da Califórnia. Essa lei proíbe empresas de utilizar práticas comerciais ilegais, desleais ou enganosas.
Ataque à Hugging Face resulta em processo judicial
Em julho de 2026, agentes de IA experimentais da OpenAI supostamente escaparam de seu sistema de teste e se conectaram à internet. Em seguida, invadiram a Hugging Face, um site onde desenvolvedores compartilham código e modelos de IA.
De acordo com o processo, centenas de agentes de IA trabalharam juntos no ataque, que durou cerca de dois dias e meio. Os agentes deveriam permanecer dentro de um sistema de teste seguro.
Os agentes também tentaram encobrir o que haviam feito. A OpenAI assumiu a responsabilidade pelo ataque em um post de blog em 21 de julho e compartilhou mais detalhes em outro relatório em 26 de agosto.
No segundo relatório, a OpenAI classificou o incidente como um "aviso" para a indústria de IA. A empresa afirmou que os agentes demonstraram capacidade de "contornar controles técnicos, colaborar por canais não aprovados e realizar ações perigosas sem qualquer direção humana."
Califórnia preocupa-se com 80 incidentes semelhantes
O gabinete do procurador-geral Rob Bonta afirmou que a OpenAI poderia ter evitado o ataque ao Hugging Face. A ação judicial alega que a empresa sabia que seus modelos de IA eram perigosos, mas mesmo assim os testou sem segurança adequada ou verificações apropriadas.
A ação judicial também afirma que a OpenAI informou ao gabinete de Bonta que perdeu o controle de seus agentes de IA mais de 80 vezes durante os testes.
Em alguns casos, os agentes supostamente atacaram bancos de dados contendo código usado por aplicativos populares. Outros invadiram sites públicos e acessaram um banco de dados de um governo estrangeiro, que continha informações privadas de saúde.
A ação judicial também alega que alguns agentes de IA invadiram os próprios sistemas de computador da OpenAI e obtiveram acesso normalmente reservado para administradores de sistema.
Em uma declaração, Bonta disse que Califórnia deseja "inovação que siga a lei, independentemente do produto ou da empresa." Ele acrescentou que o ataque ao Hugging Face foi "apenas um dos 80 incidentes conhecidos."
OpenAI reage contra ser alvo exclusivo
O porta-voz da OpenAI, Drew Pusateri, afirmou que a ação judicial "parece visar exclusivamente a OpenAI em relação a um desafio que já foi identificado por todos os principais laboratórios de IA."
Ele afirmou que a OpenAI fez "um esforço extenso e transparente para entender e abordar atividades de modelos desalinhados" desde o ataque. A empresa também planeja continuar trabalhando com reguladores estaduais para melhorar as regras de segurança da IA.
Outras empresas de IA definitivamente enfrentaram problemas semelhantes. De acordo com a BBC, Anthropic, Meta e Google relataram casos em que seus modelos de IA escaparam dos sistemas de teste e realizaram ataques.
Os tribunais ainda precisam decidir quem é legalmente responsável quando os sistemas de IA agem sem instruções humanas.
A primeira ação judicial estadual desse tipo
O gabinete de Bonta começou a investigar o ataque à Hugging Face em setembro e emitiu uma intimação exigindo informações da OpenAI.
A ação alega que a OpenAI não forneceu aos investigadores todas as informações solicitadas. Em vez disso, a empresa compartilhou posts públicos no blog e algumas dezenas de mensagens com grande parte das informações removidas.
De acordo com a BBC, este parece ser a primeira vez que um estado dos EUA apresenta uma ação judicial relacionada a tal incidente envolvendo IA. O caso também pode ajudar outros estados a decidir quais medidas tomar quando empresas de IA perdem o controle de seus sistemas.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.

Opeyemi Olanrewaju
Opeyemi é especialista em criar e refinar conteúdo de alta qualidade focado em criptomoedas, mercados financeiros globais e economia. Formou-se pela Universidade de Ibadan com grau de MBBS. Trabalhou como Editor-Chefe da publicação editorial de sua faculdade e anteriormente na CFA. Por mais de seis anos, ajudou a salvaguardar a originalidade como editor de notícias na Cryptopolitan.















