A palavra do ano do Dicionário Cambridge, 'alucinar', destaca o grande problema da IA

Em uma mudança notável no cenário da inteligência artificial (IA), o Dicionário Cambridge escolheu "alucinar" como a Palavra do Ano. Essa seleção reflete um desenvolvimento significativo na compreensão desse termo no campo da IA. Embora tradicionalmente associado à percepção de fenômenos inexistentes, "alucinar" agora abrange casos em que sistemas de IA apresentam erroneamente dados imprecisos como se fossem fatos, às vezes levando a consequências adversas.

Imprecisões da IA ​​em plataformas importantes

Plataformas tecnológicas proeminentes como Gizmodo, CNET e Microsoft têm sido alvo de críticas devido a imprecisões em artigos produzidos por IA. Isso levanta preocupações sobre a confiabilidade do conteúdo gerado por sistemas baseados em IA. Em um caso particularmente alarmante, um profissional da área jurídica perdeu o emprego quando um chatbot baseado em IA, o ChatGPT, criou processos judiciais fictícios como referência. No início deste ano, analistas do Morgan Stanley apontaram a propensão do ChatGPT a fabricar fatos, um problema que, segundo eles, persistirá por muitos anos. Essesdentacenderam o alerta entre líderes empresariais e especialistas em desinformação sobre o potencial da IA ​​para amplificar a desinformação online.

A importância do pensamento crítico

Wendalyn Nichols, gerente de publicação do Dicionário Cambridge, enfatizou o papel crucial do pensamento crítico humano ao usar ferramentas de IA. Ela destaca que o fato de as IAs poderem "alucinar" serve como um lembrete de que os humanos devem exercitar suas habilidades de pensamento crítico ao confiar nessas ferramentas. Isso reforça a necessidade de os usuários abordarem o conteúdo gerado por IA com um olhar criterioso.

Reconhecimento da indústria de IA

O termo "alucinar" ganhou destaque nas discussões da indústria de IA desde o lançamento da inovadora tecnologia de chatbot da OpenAI, o ChatGPT, em abril de 2023. O CEO da Alphabet Inc., Sundar Pichai, reconheceu que a indústria de IA está lidando com "problemas de alucinação" para os quais não existe uma solução imediata e definitiva. Esse reconhecimento por parte de uma figura de destaque no mundo da tecnologia ressalta a gravidade do problema.

A contribuição da Vectara para a IA responsável

Em um passo significativo rumo à autorregulamentação e à promoção da IA ​​responsável, a Vectara, desenvolvedora de Modelos de Linguagem de Grande Porte (LLM, na sigla em inglês), lançou seu Modelo de Avaliação de Alucinações de código aberto em novembro de 2023. Este modelo inovador avalia o quanto um LLM se desvia de informações factuais. Ao quantificar esses desvios, a Vectara visa abordar os obstáculos à adoção generalizada da IA ​​em empresas e mitigar os riscos associados à desinformação.

A escolha de "alucinar" como a Palavra do Ano pelo Dicionário Cambridge lança luz sobre um problema crítico na indústria de IA. As imprecisões e o potencial da IA ​​para gerar informações falsas têm gerado preocupação entre especialistas e o público. À medida que a indústria de IA lida com esses "problemas de alucinação", a necessidade de um desenvolvimento responsável de IA e de um pensamento crítico vigilante ao usar ferramentas de IA nunca foi tão evidente. O Modelo de Avaliação de Alucinações da Vectara representa um avanço significativo para enfrentar esses desafios e garantir que a IA sirva como uma força para o bem, em vez de amplificar a desinformação na era digital.