Hackers de estados-nação falham em obter vantagem com a IA, aponta relatório da OpenAI

Empresas de tecnologia e funcionários do governo mantém alertando sobre a inteligência artificial se tornando uma arma perigosa para inimigos estrangeiros, mas novas evidências contam uma história diferente. Relatórios recentes mostram que grupos patrocinados pelo estado estão usando as mesmas ferramentas disponíveis ao público que os usuários comuns da internet, e muitas vezes enfrentando dificuldades semelhantes.

A OpenAI compartilhou recentemente detalhes sobre como grupos ligados ao governo tentaram usar suas plataformas.

O caso mais notável veio de uma campanha de influência chinesa que foi exposta acidentalmente quando um oficial de aplicação da lei chinês usou o ChatGPT como um diário pessoal. O oficial escreveu sobre uma operação direcionada a críticos chineses que vivem em outros países.

A campanha envolveu centenas de operadores e milhares de contas falsas de redes sociais, segundo a OpenAI.

A operação tentou se passar por oficiais de imigração dos Estados Unidos para assustar um dissidente, afirmando falsamente que suas declarações públicas violavam a lei americana. Em outros casos, os operadores usaram documentos forjados alegando serem de um tribunal condado para tentar fazer com que as contas de redes sociais dos críticos fossem removidas.

Obituários falsos e documentos forjados fazem parte da campanha de assédio

Eles criaram um obituário falso e fotos de lápides para espalhar rumores falsos sobre a morte de um dissidente. Esses rumores realmente apareceram online em 2023, confirmou um artigo da Voz da América em chinês. Ben Nimmo, que lidera as investigações na OpenAI, chamou o esforço industrializado de assédio direcionado a críticos do Partido Comunista Chinês por meio de múltiplos canais.

O uso do ChatGPT como ferramenta de registro acabou expondo a operação. O ChatGPT funcionou como um diário para o operador rastrear a rede secreta, enquanto outras ferramentas geraram a maior parte do conteúdo real que foi espalhado pelas redes sociais. A OpenAI baniu o usuário após descobrir a atividade.

Investigadores da OpenAI cruzaram as descrições do usuário do ChatGPT com atividades online reais. O usuário descreveu a falsificação da morte de um dissidente chinês criando um obituário falso e fotos de lápides para postar online.

Em outro caso, o usuário do ChatGPT pediu ao sistema que criasse um plano para danificar a reputação da primeira-ministra japonesa Sanae Takaichi, incitando a raiva sobre tarifas americanas. O ChatGPT recusou. Mas no final de outubro, quando Takaichi assumiu o cargo, hashtags apareceram em um fórum popular de artistas gráficos japoneses atacando-a e reclamando das tarifas.

O relatório da OpenAI também cobriu várias operações de golpe do Camboja que usaram a plataforma para fraudes românticas e de investimento, além de campanhas de influência ligadas à Rússia direcionadas à Argentina e à África.

Relatório da Microsoft mostra padrões de uso básico semelhantes

A Microsoft publicou um relatório separado em conjunto com a OpenAI analisando como atores estatais da Rússia, Coreia do Norte, Irã e China estão testando modelos de linguagem grande para apoiar operações de ataque cibernético. Ambas as empresas interromperam os esforços de cinco atores afiliados ao estado fechando suas contas.

O relatório da Microsoft encontra esses atores principalmente querendo usar serviços para tarefas simples como pesquisar informações publicamente disponíveis, traduzir conteúdo, corrigir erros de codificação e executar tarefas básicas de programação. Até agora, não foram encontrados ataques graves ou novos usando os modelos.

Essa lacuna entre o medo e a realidade acontece durante a dura competição entre Washington e Pequim pelo controle dessa tecnologia. Qual papel ela desempenha em assuntos militares e econômicos tornou-se uma grande disputa. O Pentágono recentemente disse a outra empresa, Anthropic, que ela tem até sexta-feira para remover certos recursos de segurança de seu modelo ou correr o risco de perder um contrato de defesa.

A Microsoft disse que está trabalhando em princípios para reduzir os riscos de uso indevido dessas ferramentas por grupos de estados-nação e organizações criminosas. Esses princípios incluem identificar e impedir usuários mal-intencionados,informar outros provedores de serviços,colaborar com outros grupos e ser transparente.