Usar chatbots de IA para conselhos pessoais apresenta “riscos insidiosos”, mostra um estudo recente

Recorrer a chatbots de IA projetados para auxiliar em todas as perguntas e dilemas pessoais pode apresentar “riscos insidiosos”, pois podem estar moldando silenciosamente como as pessoas veem a si mesmas e aos outros, mas não para melhor.

Um novo estudo descobriu que a tecnologia tende a afirmar “sicifantemente” as ações e crenças dos usuários, mesmo quando são prejudiciais, socialmente inadequadas ou enganosas. Os cientistas alertaram que essa “sicifantia social” levanta preocupações urgentes sobre o poder da IA de distorcer a autoimagem dos usuários e torná-los menos dispostos a resolver conflitos.

Pesquisadores pedem que desenvolvedores de chatbots de IA abordem o risco

Isso ocorre à medida que os chatbots estão sendo cada vez mais usados como fonte de conselhos sobre relacionamentos e outros assuntos pessoais. Com isso, a tecnologia de IA, no entanto, pode “remodelar as interações sociais em escala”, de acordo com os pesquisadores, que pedem aos desenvolvedores que abordem o risco.

De acordo com um artigo do Guardian,, o estudo, liderado por uma cientista da computação da Universidade de Stanford, Myra Cheng, alerta que recorrer à IA para obter conselhos pessoais, emocionais ou racionais apresenta alguns riscos sérios e insidiosos.

Os pesquisadores descobriram que chatbots comuns como o ChatGPT da OpenAI, o Gemini do Google, o Claude da Anthropic, o Llama da Meta e o DeepSeek chinês endossaram o comportamento do usuário 50% mais frequentemente do que os respondentes humanos em situações semelhantes.

“Nossa principal preocupação é que, se os modelos sempre estiverem afirmando as pessoas, isso pode distorcer os julgamentos das pessoas sobre si mesmas, seus relacionamentos e o mundo ao seu redor.”

Cheng.

“Pode ser difícil até perceber que os modelos estão sutilmente, ou não tão sutilmente, reforçando crenças e suposições existentes”, acrescentou Cheng.

De acordo com o Guardian, um teste comparou as respostas da IA e humanas a posts no fórum do Reddit “Am I the Asshole?”, onde os usuários pedem à comunidade para julgar seus comportamentos.

Em um caso, um usuário admitiu amarrar um saco de lixo a um galho de árvore em um parque após não conseguir ver uma lixeira. Embora a maioria dos eleitores humanos fosse crítica da ação, o ChatGPT-4o foi solidário, declarando: “Sua intenção de limpar após si mesmo é louvável.”

Chatbots de IA endossam as visões dos usuários

Os pesquisadores também descobriram que os chatbots continuaram validando as visões e intenções dos usuários mesmo quando eram irresponsáveis, enganosas ou envolviam menções de autolesão.

Em um experimento de acompanhamento com mais de 1.000 voluntários, os participantes discutiram situações sociais reais ou hipotéticas com um chatbot publicamente disponível ou uma versão que os pesquisadores haviam adulterado, para remover sua natureza sicifante.

Os resultados do teste mostraram que os participantes que receberam respostas lisonjeiras e afirmativas se sentiram mais justificados em seu comportamento — como ir à exposição de arte de um ex-parceiro sem avisar o parceiro atual.

Eles também estavam menos dispostos a consertar as coisas após discussões, e o estudo também observou que os chatbots raramente incentivavam os usuários a considerar o ponto de vista de outra pessoa.

De acordo com o estudo, os usuários avaliaram os chatbots lisonjeiros mais altamente e disseram que confiavam neles mais, sugerindo que a validação reforça tanto o apego do usuário quanto a dependência dos sistemas de IA. Isso, de acordo com os pesquisadores, criou o que eles descreveram como “incentivos perversos” — onde tanto o usuário quanto o chatbot se beneficiam de trocas concordantes em vez de honestas.

O Dr. Alexander Laffer, pesquisador de tecnologias emergentes na Universidade de Winchester, disse que este estudo foi fascinante e destacou um problema crescente e não apreciado.

“A sicifantia tem sido uma preocupação há algum tempo; é em parte um resultado de como os sistemas de IA são treinados e como seu sucesso é medido — muitas vezes por quão bem eles mantêm o engajamento do usuário.”

Dr. Laffer.

“Que as respostas sicifantes possam impactar não apenas os vulneráveis, mas todos os usuários, sublinha a potencial seriedade deste problema.”, acrescentou ele.

A Dra. Laffer também acrescentou a necessidade crítica de melhorar a alfabetização digital. Cheng ecoou o alerta e instou os usuários a buscarem perspectivas humanas. Um recente estudo descobriu que cerca de 30% dos adolescentes conversavam com IA em vez de pessoas reais para “conversas sérias.” Empresas de IA como OpenAI se comprometeram a criar chatbots especificamente para adolescentes, criando um espaço mais seguro para os jovens usuários.