A OpenAI desativou as contas do grupo iraniano ChatGPT devido à campanha de influência nas eleições americanas

A OpenAI tomou medidas decisivas ao banir um grupo de contas do ChatGPT ligadas a uma operação de influência iraniana. Essas contas publicavam material produzido por IA sobre a eleiçãodentdos EUA, conforme explicou a empresa em uma postagem no blog. A operação, que incluía artigos e publicações em redes sociais, parece ter tido um alcance pequeno. 

Esta não é a primeira vez que agentes ligados a Estados tentam usar indevidamente o ChatGPT da OpenAI. Em maio, a empresa impediu cinco tentativas diferentes de influenciar a opinião pública com artigos falsos publicados por bots de IA. Esses esforços fazem parte de um padrão mais amplo em que agentes estatais usam novas tecnologias para tentar moldar processos políticos. 

A OpenAI responde rapidamente para combater as ameaças emergentes

Anteriormente, esses grupos utilizavam o Facebook e o Twitter como suas principais plataformas de mídia social. No entanto, a IA generativa agora é usada para inundar as plataformas de mídia social com informações falsas. Em resposta a essas ameaças, a OpenAI agiu rapidamente, de forma semelhante à abordagem de "jogo de bater na toupeira" que vimos nas plataformas de mídia social. Assim que as contas ligadas a essas atividades são descobertas, elas são bloqueadas imediatamente. Isso é importante, visto que adentestá se aproximando. 

A análise da OpenAI sobre o recente lote de contas é baseada em um relatório da Microsoft Threat Intelligence divulgado na semana passada. O relatório identificou o grupo que patrocina essas operações como o grupo Storm-2035, que está envolvido em interferências nas eleições americanas desde 2020. 

A rede Storm-2035 é considerada uma organização iraniana com diversos domínios que simulam sites de notícias legítimos. Esses sites têm como alvo o eleitorado americano e apresentam conteúdo polarizador relacionado a candidatos àdent, direitos LGBTQIA+ e o conflito entre Israel e Hamas. 

O ChatGPT gera conteúdo polarizador sobre diversos temas políticos

Assim como em outras operações semelhantes, o objetivo da Storm-2035 não é apoiar uma política específica, mas sim gerar controvérsia na população. De acordo com a OpenAI, o grupo estava associado a cinco sites que se passavam por sites de notícias tanto liberais quanto conservadores. 

Esses sites tinham bons nomes de domínio, como “evenpolitics.com”, e usavam o ChatGPT para escrever artigos de determinado tamanho. Um desses artigos afirmava que a rede social de propriedade de Elon Musk, a X, estava bloqueando os tweets do ex-dentdos EUA, Donald Trump. 

A OpenAIdentuma dúzia de contas X e uma conta do Instagram ligadas ao Storm-2035. Essas contas usaram o ChatGPT para gerar novas declarações políticas e, em seguida, publicá-las nessas redes sociais. Por exemplo, um tweet falsamente atribuía as mudanças climáticas ao "aumento dos custos de imigração", usando a hashtag #DumpKamala em referência à vice-dent Kamala Harris.