A Palavra do Ano do Dicionário Cambridge ‘Hallucinate’ Destaca o Grande Problema da IA

Em uma mudança notável no cenário da inteligência artificial (IA), o Dicionário Cambridge escolheu ‘hallucinate’ (alucinar) como sua Palavra do Ano. Essa seleção reflete um desenvolvimento significativo na compreensão deste termo dentro do campo da IA. Embora tradicionalmente associado à percepção de fenômenos inexistentes, ‘hallucinate’ agora abrange instâncias em que os sistemas de IA apresentam erroneamente dados imprecisos como fatos, às vezes levando a consequências adversas.

Inexatidões da IA em plataformas proeminentes

Plataformas tecnológicas proeminentes, como Gizmodo, CNET e Microsoft, foram alvo de escrutínio por inexatidões em artigos produzidos por IA. Isso levanta preocupações sobre a confiabilidade do conteúdo gerado por sistemas impulsionados por IA. Em um caso particularmente alarmante, um profissional do direito perdeu seu emprego quando um chatbot baseado em IA, o ChatGPT, criou processos judiciais fictícios como referências. No início deste ano, analistas do Morgan Stanley apontaram a propensão do ChatGPT de fabricar fatos, um problema que eles preveem que persistirá por muitos anos. Esses incidentes levantaram bandeiras vermelhas entre líderes empresariais e especialistas em desinformação sobre o potencial da IA de amplificar a desinformação online.

A importância do pensamento crítico

Wendalyn Nichols, gerente de publicação do Dicionário Cambridge, enfatizou o papel crucial do pensamento crítico humano ao usar ferramentas de IA. Ela destaca que o fato de as IAs poderem ‘alucinar’ serve como um lembrete de que os humanos devem exercer suas habilidades de pensamento crítico ao confiar nessas ferramentas. Isso sublinha a necessidade dos usuários de abordar o conteúdo gerado por IA com um olhar criterioso.

Reconhecimento da indústria de IA

O termo ‘hallucinate’ ganhou destaque nas discussões dentro da indústria de IA desde o lançamento da tecnologia de chatbot revolucionária da OpenAI, o ChatGPT, em abril de 2023. O CEO da Alphabet Inc., Sundar Pichai, reconheceu que a indústria de IA está lidando com “problemas de alucinação” para os quais não existe uma solução imediata e clara. Esse reconhecimento de uma figura de destaque no mundo da tecnologia sublinha a gravidade do problema.

A contribuição da Vectara para uma IA responsável

Em um passo significativo em direção à autorregulação e à promoção de uma IA responsável, a construtora de Modelos de Linguagem Grande (LLM) Vectara introduziu seu Modelo de Avaliação de Alucinação de código aberto em novembro de 2023. Este modelo inovador avalia o quanto um LLM se desvia das informações factuais. Ao quantificar essas desvios, a Vectara visa abordar os obstáculos à adoção generalizada da IA nas empresas e mitigar os riscos associados à desinformação.

A seleção de ‘hallucinate’ como a Palavra do Ano pelo Dicionário Cambridge ilumina um problema crítico dentro da indústria de IA. As inexatidões e o potencial da IA de gerar informações falsas levantaram preocupações entre especialistas e o público. À medida que a indústria de IA lida com esses “problemas de alucinação”, a necessidade de desenvolvimento responsável de IA e do pensamento crítico vigilante ao usar ferramentas de IA nunca foi mais aparente. O Modelo de Avaliação de Alucinação da Vectara representa um passo significativo em direção à resolução desses desafios e à garantia de que a IA sirva como uma força para o bem, em vez de amplificar a desinformação na era digital.