Aqui está o Por Que os LLMs Podem Representar um Grande Risco para a Ciência

Os modelos de linguagem de grande escala (LLMs) representam um grande avanço no setor de inteligência artificial. No entanto, uma das principais preocupações sobre os LLMs é sua capacidade de apresentar informações imprecisas como fato, o que apresenta uma série de riscos.

LLMs e Alucinações

Os LLMs às vezes podem produzir “alucinações”, que são declarações falsas ou enganosas que não estão fundamentadas na realidade. Essa falha geralmente decorre dos dados nos quais os modelos são treinados. 

Os modelos de IA são treinados em vastas quantidades de dados extraídos da internet, que contêm informações precisas e imprecisas. Como resultado, os LLMs aprendem a gerar texto consistente com os dados nos quais foram treinados, mesmo que esse texto não seja factualmente preciso.

Por exemplo, um LLM solicitado a escrever um resumo de um artigo científico pode gerar um resumo factualmente incorreto porque aprendeu a associar certas palavras e frases a certos conceitos, mesmo que essas associações não sejam precisas.

Com tal falha, o uso de LLMs torna-se uma preocupação, especialmente na ciência, onde os fatos importam. 

“A maneira como os LLMs são usados importa. Na comunidade científica, é vital que tenhamos confiança nas informações factuais, por isso é importante usar os LLMs de forma responsável. Se os LLMs forem usados para gerar e disseminar artigos científicos, danos graves podem resultar”, afirma a Prof. Sandra Wachter, do Oxford Internet Institute.

Melhor Abordagem para Usar LLMs

Em um artigo de pesquisa publicado pela Professora Wachter, Brent Mittelstadt e Chris Russell, da Oxford, eles argumentaram que expectativas claras devem ser estabelecidas sobre o que os modelos de IA podem contribuir de forma responsável e útil, a fim de proteger a ciência e a educação. 

Os pesquisadores observaram que os LLMs devem ser melhor usados como “tradutores zero-shot”, o que significa que os usuários devem apresentar apenas informações precisas aos modelos e pedir que eles reescrevam nos textos desejados. “Para tarefas em que a verdade importa, incentivamos os usuários a escrever prompts de tradução que incluam informações factuais e verificadas”, lê-se no artigo.