OpenAI teve que bloquear mais de 250.000 solicitações de imagens de candidatos presidenciais dos EUA no ChatGPT

A OpenAI confirmou que sua popular ferramenta de IA, o ChatGPT, bloqueou um impressionante número de mais de 250.000 solicitações para gerar imagens dos principais candidatos presidenciais dos EUA em 2024.

Os usuários tentaram — repetidamente — fazer o ChatGPT criar imagens do presidente eleito Donald Trump, da vice-presidente Kamala Harris, do atual presidente Joe Biden, do governador de Minnesota Tim Walz e do vice-presidente eleito JD Vance.

Mas a OpenAI disse um alto “Não!” para cada um desses pedidos. Isso é supostamente sobre impedir que o ChatGPT se torne uma peça em um jogo de alto risco de desinformação.

Com a eleição dos EUA se aproximando, a OpenAI queria que o ChatGPT evitasse interferência eleitoral. Deepfakes políticos, notícias falsas geradas por IA e mentiras descaradas se espalham como fogo na internet. A Clarity, uma empresa de aprendizado de máquina, relata que o conteúdo de deepfake sozinho aumentou 900% este ano.

E a inteligência dos EUA diz que parte desse material tem ligações com agentes russos tentando controlar a política americana.

A grande batalha da OpenAI contra a desinformação

Em um relatório de outubro, a OpenAI expôs o quão ruins as coisas ficaram. Eles têm monitorado operações duvidosas em todo o mundo — 20 delas, para ser exato — todas tentando explorar ferramentas de IA para manipular as pessoas online. Algumas estavam produzindo artigos de sites gerados por IA.

Outras tinham contas falsas de redes sociais postando propaganda. Mas a equipe da OpenAI afirma que conseguiu desligar essas redes antes que se tornassem virais.

E, no entanto, isso não é suficiente para deixar todos satisfeitos. Alguns legisladores, observadores de tecnologia e céticos estão levantando bandeiras vermelhas sobre os perigos de permitir que o ChatGPT vagueie livremente durante a temporada eleitoral. Chatbots de IA podem ser impressionantes, é claro, mas ainda são conhecidos por soltar informações questionáveis de vez em quando.

“Os eleitores categoricamente não devem procurar chatbots de IA para obter informações sobre votação ou eleição — há muitas preocupações sobre precisão e completude”, disse Alexandra Reeve Givens, CEO do Centro para Democracia & Tecnologia, em uma declaração na semana passada.

Além disso, a Procuradora-Geral de Nova York, Letitia James, emitiu um aviso na última sexta-feira após seu escritório realizar testes em alguns chatbots alimentados por IA. Sua equipe lançou algumas perguntas relacionadas às eleições contra eles e não gostou das respostas que obteve. Desinformação por toda parte.

“Os nova-iorquinos que dependem de chatbots, em vez de fontes oficiais do governo, para responder às suas perguntas sobre votação correm o risco de ser desinformados e podem até perder sua oportunidade de votar devido às informações imprecisas”, declarou o gabinete da procuradora-geral.

A OpenAI adicionou desde então um recurso no ChatGPT que incentiva os usuários que buscam resultados eleitorais a recorrerem a fontes de notícias confiáveis, como a Associated Press e a Reuters. O recurso, introduzido em 5 de novembro, é um leve empurrão para evitar o uso de respostas geradas por IA para algo tão importante quanto os dados eleitorais.

A IA assume o assento quente no meio de eleições globais

Este ano, campanhas políticas em todo o mundo podem impactar mais de 4 bilhões de pessoas em mais de 40 países. Com tanto em jogo, o risco de desinformação alimentada por IA se espalhar além das fronteiras é uma questão importante.

Novamente, o relatório da Clarity sobre o aumento de 900% no conteúdo de deepfake está abalando os nervos. O fato de alguns desses vídeos de deepfake estarem ligados a campanhas de influência apoiadas pela Rússia apenas aumenta a urgência.

Um estudo de julho do Centro para Democracia & Tecnologia adiciona outra camada de preocupação. Eles testaram consultas relacionadas a eleições em chatbots de IA de grandes empresas — Mistral, Google, OpenAI, Anthropic e Meta. Das 77 perguntas relacionadas às eleições, mais de um terço recebeu respostas imprecisas ou enganosas. Nada bom.

Um porta-voz da Anthropic, que faz o chatbot Claude, deixou claro: “Para informações específicas sobre eleições e votação, direcionamos os usuários para fontes autorizadas, pois o Claude não é treinado com frequência suficiente para fornecer informações em tempo real sobre eleições específicas.”

A dupla Trump-Musk e a nova realidade do Vale do Silício

E enquanto a OpenAI lida com a desinformação, o Vale do Silício como um todo está se preparando para uma revisão de seu relacionamento com Washington. O retorno do presidente eleito Donald Trump à Casa Branca traz grandes promessas — ele planeja desmantelar muitas das políticas tecnológicas de seu antecessor, incluindo a ordem executiva recente da administração Biden sobre segurança de IA.

Esta ordem introduziu diretrizes de segurança e privacidade para desenvolvedores de IA, com o objetivo de estabelecer algumas proteções básicas. Ela incentivou o financiamento de pesquisa em IA e visava envolver mais o Instituto Nacional de Padrões e Tecnologia na definição de padrões de IA. Trump chamou a política de “perigosa” e uma barreira à inovação, prometendo substituí-la pelo que ele chama de “desenvolvimento de IA enraizado na liberdade de expressão.”

Elon Musk, que investiu mais de US$ 130 milhões em campanhas pró-Trump e até fez comícios em nome de Trump na Pensilvânia, deve ser um dos maiores aliados tecnológicos de Trump. Com a influência de Musk e seu controle da X (antigo Twitter), ele tem uma linha direta para amplificar mensagens políticas para milhões.

Sem mencionar que Musk tem interesse direto no assunto: a Tesla e a SpaceX podem se beneficiar das políticas de Trump, especialmente se a nova administração favorecer menos supervisão.

Enquanto alguns magnatas da tecnologia, como o Jeff Bezos da Amazon, entraram abertamente em conflito com Trump, outros encontraram maneiras de permanecer em seus bons termos. O Mark Zuckerberg da Meta, por exemplo, supostamente elogiou a reação de Trump a uma recente tentativa de assassinato, chamando-a de “incrível”.

E o Facebook não parou por aí — eles removeram algumas das medidas anti-desinformação da plataforma também. E Bezos, proprietário do The Washington Post, supostamente bloqueou um editorial que teria endossado a vice-presidente Kamala Harris nas semanas anteriores à eleição.

O impacto do segundo mandato de Trump no Vale do Silício também dependerá de quem controla o Congresso. Com os republicanos tendo garantido o Senado, o caminho agora está mais claro para Trump impulsionar sua agenda tecnológica e confirmar seus nomeados com menos atritos.