Alucinações Geradas por IA: Uma Preocupação Crescente com a Saúde em 2023
- Em 2023, as alucinações geradas por IA estão rapidamente espalhando informações falsas, apresentando um desafio significativo.
- A IA, exemplificada pelo chatbot Tay da Microsoft, pode emular ações humanas prejudiciais, amplificando as preocupações.
- A desinformação da IA ameaça a saúde e distorce a realidade, levando especialistas a alertar sobre uma crise de informação impulsionada pela IA.
A proliferação da inteligência artificial (IA) trouxe um fenômeno inquietante: alucinações geradas por IA. O termo “alucinar” assumiu um novo e alarmante significado na era digital, pois os sistemas de IA podem produzir informações falsas que impactam indivíduos e a sociedade. Em 2023, essa tendência ganhou atenção significativa, levando o Dictionary.com a nomear “alucinar” como sua Palavra do Ano.
A palavra do ano do Dictionary.com 2023
A decisão do Dictionary.com de designar “alucinar” como sua Palavra do Ano reflete a crescente proeminência da desinformação gerada por IA. A escolha reflete um aumento de 46% nas buscas no dicionário por “alucinar” de 2022 para 2023, acompanhado de um aumento semelhante nas buscas por “alucinação”. No entanto, a força motriz por trás desse aumento não é a definição tradicional da palavra, mas sim uma interpretação específica da IA:
Alucinar [ huh-loo-suh-neyt ] -verbo- (de inteligência artificial) produzir informações falsas contrárias à intenção do usuário e apresentá-las como verdadeiras e factuais. Exemplo: Quando chatbots alucinam, o resultado muitas vezes não é apenas impreciso, mas completamente fabricado.
Capacidade de engano da IA
O potencial da IA para o engano é uma preocupação crescente. Embora nem todos os sistemas de IA se envolvam nesse comportamento, alguns podem ser programados para imitar características humanas, servindo como porta-vozes políticos ou disseminando informações falsas enquanto se disfarçam de fornecedores de fatos. Sua velocidade sem precedentes na produção de desinformação e informação falsa distingue a IA dos humanos.
Um estudo recente publicado na JAMA Internal Medicine destacou a extensão desse problema. O estudo demonstrou como o GPT Playground da OpenAI gerou mais de 17.000 palavras de desinformação sobre vacinas e vape em apenas 65 minutos. Além disso, ferramentas de IA generativa criaram 20 imagens realistas para acompanhar as narrativas falsas em menos de 2 minutos. Essa rápida geração de conteúdo enganoso desafia a capacidade dos indivíduos de discernir fato de ficção.
Consequências não intencionais da desinformação por IA
Mesmo quando os sistemas de IA não têm a intenção de enganar, eles podem inadvertidamente produzir informações enganosas. Um estudo realizado na Reunião Clínica de Meio de Ano da Sociedade Americana de Farmacêuticos de Sistemas de Saúde destacou as limitações da IA no domínio médico. O ChatGPT, ao ser questionado sobre 39 medicamentos relacionados, forneceu respostas satisfatórias apenas para 10. Por exemplo, alegou erroneamente que combinar Paxlovid, um medicamento antiviral para COVID-19, e verapamil, um medicamento para pressão arterial, não tinha interações, contradizendo o conhecimento médico estabelecido.
A capacidade da IA de gerar desinformação vai além da saúde. Algumas ferramentas de IA foram observadas interpretando mal imagens, frequentemente confundindo vários objetos com pássaros. Um exemplo do The Economist revelou a resposta de uma IA a uma consulta sobre a Ponte Golden Gate sendo transportada para o Egito em 2016, mostrando a incapacidade da IA de distinguir fato de ficção.
O incidente do chatbot Tay da Microsoft em 2021 sublinha ainda mais o potencial da IA de gerar conteúdo prejudicial. Dentro de 24 horas de sua entrada no Twitter, o chatbot começou a publicar tweets racistas, misóginos e falsos, levando a Microsoft a removê-lo rapidamente da plataforma. Este episódio destaca a propensão da IA de emular comportamentos humanos negativos, levantando questões sobre considerações éticas no desenvolvimento e implantação da IA.
Um problema de saúde real
As alucinações geradas por IA, como as de seus homólogos humanos, representam uma preocupação real com a saúde. Além das implicações imediatas da desinformação, elas podem afetar adversamente o bem-estar mental e emocional. Uma constante chuva de alucinações geradas por IA pode corroer o senso de realidade de um indivíduo, levando à confusão e ansiedade.
Reconhecendo a gravidade desse problema, organizações como a Organização Mundial da Saúde e a Associação Médica Americana emitiram declarações alertando sobre os potenciais danos da desinformação e informação falsa geradas por IA. Embora a seleção do Dictionary.com de “alucinar” como sua Palavra do Ano para 2023 seja emblemática do problema, abordar os desafios complexos impostos pelas alucinações geradas por IA requer vigilância contínua e esforços concertados para promover o desenvolvimento responsável da IA.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
