OpenAI alerta que seus modelos de IA de próxima geração podem se tornar ferramentas para hackers

A empresa por trás do ChatGPT emitiu um alerta severo na quarta-feira sobre os perigos potenciais que se escondem em sua próxima onda de sistemas de inteligência artificial, dizendo que eles poderiam apresentar sérias ameaças de cibersegurança.

A OpenAI afirmou que seus futuros modelos de IA podem ser capazes de criar exploits de dia zero funcionais que visam sistemas de computador fortemente protegidos. A tecnologia também poderia ajudar a realizar ataques sofisticados contra empresas ou instalações industriais projetados para causar danos no mundo real.

As coisas estão se movendo rapidamente. Em seu blog, a OpenAI mencionou que o desempenho nos desafios de segurança de captura de bandeira saltou de 27% no GPT-5 em agosto de 2025 para 76% no GPT-5.1-Codex-Max apenas três meses depois, em novembro de 2025.

A OpenAI agora assume que cada novo modelo que constrói pode atingir o que ela chama de níveis "altos" de capacidade de cibersegurança. Isso significa sistemas que podem criar exploits funcionais para vulnerabilidades anteriormente desconhecidas em redes bem protegidas, ou ajudar em campanhas de intrusão complicadas que visam infraestrutura crítica.

A empresa apoiada pela Microsoft disse que está investindo para tornar seus modelos melhores no trabalho defensivo de segurança. A empresa está construindo ferramentas para ajudar as equipes de segurança a verificar o código em busca de problemas e corrigir falhas de segurança. A OpenAI quer dar aos defensores uma vantagem, já que eles geralmente estão em desvantagem numérica e com poucos recursos.

Aqui é onde fica complicado. O trabalho defensivo e ofensivo de cibersegurança usa o mesmo conhecimento e métodos básicos. O que ajuda os defensores pode tão facilmente ajudar os atacantes. A OpenAI diz que não pode depender de uma única medida de proteção. Ela precisa de camadas de controles de segurança trabalhando juntos.

A empresa está usando restrições de acesso, segurança de infraestrutura mais forte, controles no fluxo de informações e monitoramento constante. Ela também está treinando modelos para recusar solicitações que poderiam permitir ataques cibernéticos, mantendo-os úteis para trabalho de segurança legítimo e educação.

Os sistemas de detecção monitoram atividades suspeitas em todos os produtos usando modelos avançados. Quando algo parece perigoso, o sistema bloqueia os resultados, muda para um modelo mais fraco ou o sinaliza para revisão humana.

Testando os limites

A OpenAI trabalha com grupos especializados de testes de segurança que tentam romper todas as suas defesas. Eles simulam como um atacante determinado com recursos sérios poderia operar. Isso ajuda a encontrar pontos fracos antes que as ameaças reais o façam.

Os riscos de cibersegurança da IA preocupam pessoas em toda a indústria. Como relatado anteriormente pela Cryptopolitan, os hackers já usam tecnologias de IA para melhorar seus ataques.

A empresa planeja um programa que dá aos usuários qualificados que trabalham na defesa de cibersegurança acesso especial a capacidades aprimoradas em seus modelos mais recentes. A OpenAI ainda está decidindo quais recursos podem estar amplamente disponíveis e quais precisam de restrições mais rigorosas.

Então há o Aardvark. Esta ferramenta de segurança em teste privado ajuda desenvolvedores e equipes de segurança a encontrar e corrigir vulnerabilidades em escala. Ela analisa o código em busca de fraquezas e sugere correções. O sistema já descobriu novas vulnerabilidades em software de código aberto. A OpenAI planeja dedicar recursos significativos ao fortalecimento do ecossistema de segurança mais amplo. Isso inclui oferecer cobertura gratuita a alguns projetos de código aberto não comerciais.

A OpenAI criará o Conselho de Risco de Fronteira (Frontier Risk Council). Isso reúne defensores e profissionais experientes de cibersegurança. O grupo começa com a cibersegurança, mas se expandirá para outras áreas. Os membros do conselho ajudam a determinar os limites entre capacidades úteis e uso indevido potencial.

A segurança permanece um desafio

A empresa trabalha com outras empresas de IA líderes por meio do Fórum de Modelos de Fronteira. Esta organização sem fins lucrativos desenvolve uma compreensão compartilhada de ameaças e melhores práticas. A OpenAI acredita que os riscos de segurança da IA avançada podem vir de qualquer sistema de IA principal da indústria.

Pesquisas recentes mostraram que agentes de IA podem descobrir vulnerabilidades de dia zero valendo milhões em contratos inteligentes de blockchain. Isso destaca como essas capacidades em avanço cortam ambos os lados.

A OpenAI trabalhou para fortalecer suas próprias medidas de segurança, mas a empresa enfrentou seus próprios problemas. A empresa lidou com múltiplas violações de segurança no passado. Isso mostra o quão difícil é proteger sistemas de IA e infraestrutura.

A empresa diz que este é um trabalho contínuo. O objetivo é dar vantagens aos defensores e fortalecer a segurança da infraestrutura crítica em todo o ecossistema de tecnologia.