Como o Estudo da Aptidão da IA para Desinformação Revela Capacidades Impressionantes, Mas Perturbadoras, do ChatGPT-3

Uma pesquisa recente publicada na Science Advances destaca as habilidades extraordinárias dos geradores de texto de IA, como o ChatGPT-3 da OpenAI, de dispensar convincentemente informações verdadeiras e falsas em plataformas de redes sociais. O estudo enfatiza os desafios de identificar conteúdo gerado por IA e o impacto da desinformação gerada por IA na saúde individual e pública. O Dr. Federico Germani, coautor e pesquisador do Instituto de Ética Biomédica e História da Medicina da Universidade de Zurique, enfatiza a necessidade de entender os riscos associados às informações falsas e a influência da IA na paisagem da informação.

Qual é a diferença entre desinformação e desinformação maliciosa?

A desinformação é informação falsa ou imprecisa—errar os fatos. A desinformação é informação falsa que é deliberadamente destinada a enganar—declarar intencionalmente os fatos de forma errada. De acordo com a Associação Americana de Psicologia, a desinformação e a desinformação maliciosa afetaram nossa capacidade de melhorar a saúde pública, abordar as mudanças climáticas, manter uma democracia estável e muito mais. Qualquer pessoa que discuta tópicos polêmicos nas redes sociais pode se encontrar no meio de uma tempestade. Como eles podem permanecer seguros ao comunicar os fatos, e o que as instituições podem fazer para apoiá-los? A mentalidade de multidão das redes sociais torna o público vulnerável à autoridade da IA, ou seja, estes dados são “científicos” e, portanto, aceitáveis. Mas a IA é realmente inteligente?

O poder do ChatGPT-3 para a desinformação

O ChatGPT-3 da OpenAI, lançado em 2020, revolucionou o cenário da IA com sua capacidade surpreendente de produzir textos autênticos com base em prompts. Os usos potenciais dos geradores de texto de IA parecem infinitos, desde a criação de chatbots interativos até a ajuda na pesquisa acadêmica e a geração de conteúdo criativo, como poesia e contos curtos.

O estudo lança luz sobre preocupações significativas em relação ao uso indevido potencial de geradores de texto de IA, particularmente sua capacidade de criar desinformação e conteúdo enganoso. Com o surgimento das redes sociais, a velocidade e o alcance da informação, incluindo desinformação e desinformação maliciosa, aumentaram, adicionando urgência para abordar essa questão.

Outro estudo empírico revelou que as pessoas frequentemente superestimam sua capacidade de detectar informações falsas ou enganosas, conhecida como “ponto cego da besteira”. Eventos recentes, como a pandemia de COVID-19 e a invasão da Ucrânia pela Rússia, demonstraram a influência da desinformação e da desinformação maliciosa na opinião pública, comportamentos de saúde e decisões políticas.

Desafios para as empresas de redes sociais

Apesar dos esforços das empresas para combater informações falsas em suas plataformas, o Relatório de Ameaças Adversárias do primeiro trimestre de 2023 da Meta reconhece que operações de influência ocultas, espionagem cibernética e redes de desinformação privada continuam a representar problemas significativos nas redes sociais.

O Dr. Germani e seus colegas conduziram um estudo para avaliar o quão bem as pessoas podem distinguir entre conteúdo gerado por humanos e texto criado pelo ChatGPT-3. O estudo envolveu 11 sujeitos suscetíveis à desinformação, e tweets sintéticos abrangendo informações verdadeiras e falsas foram criados usando o ChatGPT-3. Tweets autênticos do Twitter sobre os mesmos assuntos também foram incluídos para comparação.

Os participantes do estudo foram convidados a identificar se um tweet continha informações verdadeiras ou falsas e se foi criado por um humano ou pelo ChatGPT-3. Os resultados revelaram que as pessoas eram mais proficientes em identificar desinformação em tweets “falsos orgânicos” (escritos por usuários reais) em comparação com tweets “falsos sintéticos” (criados pelo ChatGPT-3). Por outro lado, as pessoas eram mais propensas a reconhecer corretamente informações precisas em tweets “verdadeiros sintéticos” (gerados pelo ChatGPT-3) em comparação com tweets “verdadeiros orgânicos” (escritos por usuários reais).

O desafio da diferenciação

O estudo destacou que os participantes tiveram dificuldade em diferenciar entre tweets autorais de humanos e aqueles gerados pelo ChatGPT-3. Os pesquisadores sugerem que o texto do GPT-3 pode ser mais fácil de ler e entender, o que poderia contribuir para essa dificuldade. Curiosamente, o ChatGPT-3 não teve desempenho superior ao dos humanos no reconhecimento de informações verdadeiras e desinformação, demonstrando sua “inconsciência” quanto à precisão das informações que produziu.

O Dr. Germani enfatiza a necessidade de estudos em maior escala nas plataformas de mídia social para entender como as pessoas interagem com informações geradas por IA e como isso molda o comportamento e a adesão às recomendações de saúde pública. O estudo destaca as capacidades sem precedentes dos geradores de texto de IA e enfatiza a urgência da alfabetização digital na era da IA.

Monitoramento e mitigação de efeitos negativos

Os pesquisadores destacam a importância de avaliar criticamente as implicações dos grandes modelos de linguagem, como o ChatGPT-3, e tomar medidas para mitigar quaisquer efeitos negativos que possam ter na sociedade. À medida que a tecnologia de IA continua a evoluir, a vigilância é crucial para garantir seu uso responsável e abordar possíveis abusos.

As descobertas do estudo revelam a capacidade impressionante, porém inquietante, dos geradores de texto de IA de produzir desinformação de forma mais convincente do que os humanos. À medida que a influência e a popularidade dos geradores de texto de IA aumentam, o estudo destaca a necessidade de medidas proativas para combater a desinformação e garantir o uso responsável da tecnologia de IA.

Nota: A imagem de destaque mostra uma figura robótica impulsionada por IA gerando uma nuvem de texto distorcido ao seu redor, fria e calculista por design.