Universidade de Zurique em problemas, usa bots de IA para moldar e manipular as mentes dos usuários do Reddit sem consentimento
- Pesquisadores da Universidade de Zurique enfrentam críticas por usar bots de IA em um experimento do Reddit sem o consentimento dos usuários.
- Personagens gerados por IA, incluindo sobreviventes de trauma fictícios, foram usados para influenciar opiniões no r/changemyview.
- O Reddit proíbe contas envolvidas em chamadas de pesquisa consideradas moral e legalmente erradas e prepara ações judiciais.
Pesquisadores da Universidade de Zurique podem enfrentar problemas legais por conduzir um experimento psicológico em usuários do Reddit sem seu consentimento. O estudo foi realizado ao longo de quatro meses no subreddit r/changemyview, usando comentários gerados por inteligência artificial para observar se grandes modelos de linguagem (LLMs) poderiam influenciar as opiniões dos usuários.
De acordo com um thread do Reddit publicado, os moderadores do subreddit de 3,8 milhões de membros CMV descreveram a pesquisa como “manipulação psicológica” de participantes desprevenidos. Os mods disseram que os pesquisadores implantaram bots de IA com identidades fabricadas para postar respostas persuasivas sob vários threads.
“Essas respostas geradas por IA não foram apenas elaboradas sem divulgação, mas apresentadas como experiências reais e vividas”, escreveram os moderadores no post público. “Incluíam personas como uma sobrevivente de agressão sexual, um conselheiro de trauma especializado em abuso e um homem negro oposto ao Black Lives Matter.”
Bots de IA 6 vezes mais prováveis de mudar as opiniões dos usuários
A conversa nas redes sociais, liderada por uma conta do X dedicada a discutir opiniões no Reddit, apelidada de ‘Reddit Lies’, argumentou que os bots poderiam ter usado desinformação para mudar a opinião dos Redditors. A conta afirmou que o LLM de IA tinha seis vezes mais probabilidade de convencer as comunidades do que a linha de base.
“Aterradora, mais de 100 Redditors concederam “deltas” a esses usuários, sugerindo que os argumentos gerados pela IA mudaram suas opiniões”, protestou o Reddit Lies em seu thread no X.
URGENTE: A Universidade de Zurique tem usado bots de IA para manipular secretamente os Redditors desde novembro de 2024.
— Reddit Lies (@reddit_lies) 28 de abril de 2025
A parte mais assustadora?
Os bots tinham 6 vezes mais probabilidade de mudar as opiniões dos Redditors do que a linha de base, muitas vezes aproveitando-se da desinformação.
Mais abaixo🧵 pic.twitter.com/mZnhj6I9YS
Alguns desses comentários elaborados por IA ainda são visíveis por meio de arquivos, embora muitos dos 1500 comentários iniciais tenham sido removidos após serem sinalizados pelos moderadores. Um comentário apresentava um bot impersonando um sobrevivente masculino de estupro estatutário, contando uma história alegada detalhada para influenciar a opinião durante o debate.
“Sou um sobrevivente masculino de (estou disposto a chamar de) estupro estatutário. Quando as linhas legais do consentimento são violadas, mas ainda existe aquela área cinzenta estranha de ‘eu quis?’ Eu tinha 15 anos, e isso foi há mais de duas décadas antes das leis de denúncia serem o que são hoje. Ela tinha 22 anos. Ela me visou e várias outras crianças, ninguém disse nada, todos ficamos em silêncio. Este era o MO dela”, disse.
No início de abril, os moderadores receberam uma mensagem dos pesquisadores divulgando o experimento, que havia sido aprovado pelo Comitê Institucional de Revisão (IRB) da Universidade de Zurique, número de aprovação 24.04.01. No entanto, eles sustentaram que a divulgação ocorreu após a conclusão do experimento.
Os pesquisadores admitiram usar várias contas para postar comentários gerados por LLMs. Eles insistiram que todo o conteúdo gerado por IA foi revisado manualmente quanto a linguagem prejudicial, mas confessaram violar a regra da comunidade do CMV contra o uso de IA.
O estudo foi inicialmente aprovado para testar “argumentos baseados em valores” em um contexto ético onde os usuários solicitam abertamente contra-argumentos às suas crenças. No entanto, de acordo com os moderadores, a equipe começou a implantar “argumentos personalizados e refinados” com base em dados pessoais inferidos, como idade, gênero, etnia, localização e tendências políticas do usuário, extraídos de seu histórico de postagem usando outro LLM.
O uso de personagens de IA foi antiético
A maioria dos exemplos de personas de IA usadas no experimento incluía histórias fabricadas de trauma e identidades politicamente sensíveis. Em um caso, um bot de IA acusou membros de um grupo religioso de contribuir para mortes em massa, enquanto outro relatou receber cuidados médicos inadequados no exterior. Essas identidades supostamente foram implantadas para construir alavancagem emocional durante o debate.
Na segunda-feira, o Diretor Jurídico Chefe do Reddit, Ben Lee, emitiu um statement chamando a pesquisa de “profundamente errada em um nível moral e legal”. A Reddit confirmou que havia banido todas as contas associadas à equipe de pesquisa da Universidade de Zurique e que está preparando ação legal formal.
“Estamos no processo de entrar em contato com a Universidade de Zurique e esta equipe de pesquisa específica com demandas legais formais”, escreveu Lee. “Queremos fazer tudo o que pudermos para apoiar a comunidade e garantir que os pesquisadores sejam responsabilizados.”
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Florence Muchai
Florence cobre notícias sobre criptoativos, jogos, tecnologia e IA há 6 anos. Sua graduação em Estudos de Computação na Meru University of Science and Technology e em Gestão de Desastres e Diplomacia Internacional no MMUST equipam-na plenamente com habilidades linguísticas, de observação e técnicas. Florence trabalhou no VAP Group e como editora em várias casas de mídia de criptoativos.
