A OpenAI integra o ChatGPT personalizado ao sistema do Pentágono em meio a preocupações de especialistas em segurança

A OpenAI anunciou na segunda-feira que está implementando uma versão personalizada do ChatGPT no GenAI.mil, a plataforma de IA empresarial segura do Departamento de Guerra. A parceria equipará 3 milhões de funcionários civis e militares com ferramentas de IA para aprimorar a prontidão para missões, pesquisas e fluxos de trabalho administrativos.

A OpenAI está ampliando sua colaboração com o Pentágono ao se juntar a outros laboratórios de IA de ponta no GenAI.mil. A empresa de IA já havia colaborado anteriormente com a DARPA para apoiar iniciativas de defesa cibernética. 

No início deste ano, a OpenAI também iniciou um programa piloto com o Escritório de Inteligência Artificial e Digital (CDAO) do Departamento de Estado para investigar como a IA de ponta pode melhorar as operações do Pentágono.

A OpenAI implementa o ChatGPT com medidas de segurança para uso militar

A OpenAI afirmou que os responsáveis ​​pela defesa nacional devem ter acesso aos recursos mais avançados disponíveis. A empresa enfatizou a importância crucial de auxiliar os EUA e outras nações democráticas a compreender como a IA, quando devidamente protegida, pode proteger pessoas, dissuadir inimigos e evitar conflitos. 

A OpenAI revelou que está integrando o ChatGPT ao GenAI.mil para facilitar o uso seguro e eficiente pelo governo e fornecer aos militares americanos recursos confiáveis ​​de IA.

“Acreditamos que podemos alcançar esse objetivo da melhor forma participando de iniciativas como o GenAI.mil (abre em uma nova janela), onde ajudamos a moldar as normas técnicas de como a IA é implementada em todo o governo”, disse a empresa no anúncio.

A OpenAI afirmou que a versão GenAI.mil do ChatGPT funcionará em uma infraestrutura de nuvem governamental que foi aprovada para uso não classificado pelo Departamento de Defesa. Segundo a empresa, o sistema inclui medidas de segurança projetadas para proteger dados sensíveis.

A empresa de tecnologia afirmou ainda que a integração do ChatGPT ao GenAI.mil reflete a forma como a empresa aborda o trabalho governamental de maneira mais ampla: focada, prática, priorizando a segurança e fundamentada no uso no mundo real.

No entanto, JB Branch, defensor da responsabilização das grandes empresas de tecnologia na Public Citizen, alertou que uma dependência excessiva da IA ​​por parte dos usuários pode comprometer essas salvaguardas.

Branch argumentou que pesquisas indicam que, quando os indivíduos usam esses modelos linguísticos complexos, tendem a lhes dar o benefício da dúvida. Ele acrescentou: "Portanto, em situações de alto impacto, como no meio militar, torna-se ainda mais importante garantir que eles entendam as coisas corretamente."

Embora a OpenAI tenha declarado que a versão personalizada do ChatGPT se destina exclusivamente a dados não classificados, Branch alertou que confiar dados sensíveis a sistemas de IA os expõe a ataques, observando que os usuários frequentemente confundem essas tecnologias com locais seguros.

Ele argumentou que apenas alguns poucos escolhidos deveriam ter acesso a material classificado. Acrescentou ainda que mesmo um sistema de acesso restrito apenas a militares não altera o fato de que o acesso a informações secretas continua sendo limitado.

O Pentágono acelera a integração da IA ​​para manter a superioridade

A implementação ocorre em um momento em que os desenvolvedores de IA visam o sucesso financeiro e o Pentágono acelera a integração da IA ​​comercial nas redes militares.

o secretário de Defesa, Pete Hegseth, declarou que o Pentágono pretende usar modelos de IA de ponta tanto em redes militares secretas quanto em redes não classificadas. Hegseth afirmou que o Departamento de Guerra deseja criar “uma força de combate com foco em IA em todos os domínios”, incluindo operações na linha de frente e sistemas de planejamento interno.

Segundo Hegseth, a luta estratégica pela superioridade tecnológica no século XXI deve ser vencida pelos Estados Unidos. Ele citou drones de longo alcance, sistemas autônomos, tecnologia quântica, hipersônica e inteligência artificial como áreas importantes.

“Se você conversar com Elon Musk por tempo suficiente, ele lhe dirá o quão importantes são os sistemas hipersônicos e os drones de longo alcance, e ele está 100% correto. Capacidades espaciais, energia direcionada e biotecnologia são as novas áreas de competição global.”

-Pete Hegseth, Secretário de Defesa dos Estados Unidos.

Ele afirmou ainda que o Pentágono começaria a utilizar o Grok, numa referência aos laços restabelecidos entre Musk e o governo Trump. Hegseth disse que o objetivo é manter a vantagem militar dos EUA à medida que as capacidades de IA se disseminam globalmente.

Hegseth acrescentou que o Departamento de Guerra deve garantir a superioridade militar americana em inteligência artificial para impedir que rivais abusem da tecnologia e coloquem em risco cidadãos americanos ou a segurança nacional. Hegseth enfatizou que, à medida que as capacidades de IA continuam a se expandir globalmente, é imprescindível preservar essa vantagem.