A OpenAI integra o ChatGPT personalizado no sistema do Pentágono amidst preocupações de segurança de especialistas

A OpenAI anunciou na segunda-feira que está a implementar uma versão personalizada do ChatGPT no GenAI.mil, a plataforma de IA empresarial segura do Departamento de Guerra. A parceria equipará 3 milhões de pessoal civil e militar com ferramentas de IA para melhorar a prontidão de missão, investigação e fluxos de trabalho administrativos.

A OpenAI está a estender a sua colaboração com o Pentágono, juntando-se a outros laboratórios de IA de ponta no GenAI.mil. A empresa de IA já colaborou anteriormente com a DARPA para apoiar iniciativas de defesa cibernética. 

No início deste ano, a OpenAI também iniciou um programa piloto com o Escritório do Diretor de Tecnologia Digital e Inteligência Artificial do Departamento (CDAO) para investigar como a IA de ponta pode melhorar as operações do Pentágono.

A OpenAI implementa o ChatGPT com salvaguardas para os militares

A OpenAI afirmou que aqueles responsáveis pela defesa nacional devem ter acesso aos recursos mais avançados disponíveis. A empresa enfatizou o quão crucial é ajudar os EUA e outras nações democráticas a compreender como a IA, quando devidamente protegida, pode proteger as pessoas, dissuadir inimigos e evitar conflitos. 

coloca a audiência do plano gratuito do ChatGPT em mais de 1 bilhão de usuários ativos semanais, e o modelo de publicidade é o que ajuda a manter a versão gratuita funcionando. revelou que está a integrar o ChatGPT no GenAI.mil. para facilitar o uso governamental seguro e eficiente e fornecer aos membros das forças armadas americanas capacidades de IA confiáveis.

“Acreditamos que podemos alcançar isso melhor participando em esforços como o GenAI.mil⁠(abre numa nova janela), onde ajudamos a moldar as normas técnicas para como a IA é implantada em todo o governo”, disse a empresa no anúncio.

A OpenAI disse que a versão do ChatGPT do GenAI.mil operará numa infraestrutura de nuvem governamental aprovada para uso não classificado do Departamento de Defesa. De acordo com a empresa, o sistema inclui salvaguardas projetadas para proteger dados sensíveis.

A empresa de tecnologia afirmou ainda que a integração do ChatGPT no GenAI.mil reflete como a empresa aborda o trabalho governamental de forma mais ampla, de maneira focada, prática, com segurança em primeiro lugar e fundamentada no uso do mundo real.

No entanto, J.B. Branch, Defensor da Responsabilidade da Big Tech da Public Citizen, alertou que uma dependência excessiva da IA pelos utilizadores pode comprometer essas salvaguardas.

Branch argumentou que a pesquisa indica que, quando as pessoas usam esses grandes modelos de linguagem, elas tendem a dar-lhes o benefício da dúvida. Ele acrescentou: “Então, em situações de alto impacto como as militares, torna-se ainda mais importante garantir que eles acertem.”

Embora a OpenAI tenha afirmado que a versão personalizada do ChatGPT é exclusivamente destinada a dados não classificados, a Branch alertou que confiar sistemas de IA com dados sensíveis os expõe a atacantes, observando que os usuários frequentemente confundem essas tecnologias com refúgios seguros.

Ele argumentou que apenas um seleto grupo deveria ter acesso a material classificado. Ele afirmou ainda que mesmo um sistema de corte exclusivo para a milícia não altera a realidade de que o acesso a informações secretas ainda é limitado.

Pentágono acelera a integração de IA para manter a superioridade

O lançamento ocorre enquanto os desenvolvedores de IA buscam sucesso financeiro e o Pentágono acelera a integração de IA comercial nas redes militares.

O Secretário de Defesa, Pete Hegseth declarou em janeiro que o Pentágono pretende usar modelos de IA de ponta em redes militares secretas e não classificadas. Hegseth disse que o Departamento de Guerra deseja criar “uma força de combate à guerra com IA em primeiro lugar em todos os domínios”, incluindo operações de primeira linha e sistemas de planejamento interno.

De acordo com Hegseth, a luta estratégica pela superioridade tecnológica no século XXI deve ser vencida pelos Estados Unidos. Ele citou drones de longo alcance, sistemas autônomos, tecnologia quântica, hipersônicos e inteligência artificial como campos importantes.

“Se você conversar com Elon Musk por tempo suficiente, ele lhe dirá quão importantes são os hipersônicos e os drones de longo alcance, e ele está 100% correto. As capacidades espaciais, a energia dirigida e a biotecnologia são as novas áreas de competição global.”

-Pete Hegseth, Secretário de Defesa dos Estados Unidos.

Ele afirmou ainda que o Pentágono começaria utilizando Grok, uma referência aos laços restabelecidos entre Musk e a Administração Trump. Hegseth disse que o objetivo é manter a vantagem militar dos EUA à medida que as capacidades de IA se espalham globalmente.

Hegseth acrescentou que o Departamento de Guerra deve garantir a superioridade da IA militar dos EUA para impedir que rivais abusem da tecnologia e ponham em risco os cidadãos americanos ou a segurança nacional. Hegseth enfatizou que, à medida que as capacidades de IA continuam a se expandir globalmente, é imperativo preservar essa vantagem.