Referências Alucinadas pelo ChatGPT Levantam Escrutínio na Integridade Académica

num recente artigo de blog de Jordan MacDonald, estudante de doutoramento em Psicologia Experimental na Universidade de New Brunswick, foi demonstrado que o ChatGPT criou mais de 90% das citações que forneceu como referências autoritativas. 

O boletim informativo Mind Pad da Associação Psicológica Canadense afirma que a IA agora pode criar detalhes bibliográficos ou de referência falsos, que por vezes podem ser tão plausíveis como os reais, pois a IA incluiria as informações que uma pessoa poderia lembrar e armazenar no seu cérebro, como autor, títulos, nomes e identificadores de objetos digitais (DOIs) formatados corretamente. 

Navegando o papel duplo da IA na investigação académica

Embora os alunos possam ter dificuldade em formular um contraste entre o texto original e referências gramaticalmente corretas, mas factualmente falsas, geradas por IA, fazendo-os duvidar da originalidade das ideias em ambientes acadêmicos.

A pesquisa envolveu verificar a autenticidade de citações na área de psicologia, abrangendo os seguintes seis subcampos: em psicologia, estudamos as cinco áreas de religião, animal, social, clínica, personalidade e neuropsicologia. 

Eventualmente, foi gerado um número 100% preciso para os subcampos, 300 segundo o ChatGPT; no entanto, apenas 32,3 deles se revelaram reais, o que indica uma clara tendência nas áreas delineadas.

IA como paixão do trabalho acadêmico: Problemas e desvantagens

O ChatGPT pode oferecer tanto invenções falsas quanto legítimas. O estudo de MacDonald corroborou o mesmo. No entanto, esse estudo específico realizado com aquele prompt não se alinha com aqueles que sempre vemos citados no ChatGPT. 

Em outras palavras, a economia em suprimentos devido aos erros do modelo complexo fará com que os residentes confiem nessa simplificação. Além disso, isso atrai uma discussão sobre as habilidades de vida que precisamos na escola e a origem dessas habilidades. 

Se os papéis da bolsa de estudos com IA como meio de conduzir pesquisas educacionais são justificados dependem do grau de indistinguibilidade que a IA pode alcançar ao simular especialistas.

Por exemplo, evidências poderiam ser descobertas pelo uso de ferramentas de IA para a principal tarefa acadêmica. Essas informações poderiam ser cruciais para apresentações da vida real ou parecer um pouco dispersas. Assim, as ferramentas inteligentes de IA e as abordagens de ensino exigiriam uma consideração séria.

Equilibrando os benefícios e riscos da IA na integridade acadêmica

A pesquisa, no entanto, não apenas traz à tona as dificuldades relacionadas à IA nas escolas, mas também impulsiona a discussão sobre essas tecnologias como um instrumento valioso em atividades educacionais e de pesquisa, quando usadas sob certas circunstâncias. 

Os educadores e pesquisadores são encorajados não apenas a reconhecer, mas também a compreender melhor as limitações e as capacidades das tecnologias de IA, como o ChatGPT, para que possam utilizá-las plenamente sem afetar o padrão acadêmico.

De acordo com MacDonald, o fato de esses modelos terem imensas vantagens não deve levar-nos a ignorá-los completamente, especialmente se eles nos induzirem a confiar apenas em suas conclusões para aprender sobre os tópicos acadêmicos de nosso interesse. Os resultados também sugerem a possibilidade de contradições feitas por IA como indicadores de envolvimento de IA no trabalho dos alunos, mesmo sem seguir a regra geral.

O desenvolvimento futuro da IA exige estudos adicionais visando elucidar as áreas de suas aplicações e limitações potenciais. A Scavenge pesquisará novas táticas para a detecção de plágio baseado em IA e outras formas de fraude. 

enquanto, por um lado, a IA como o ChatGPT pode levar a várias vantagens na pesquisa acadêmica, por outro lado, ela tem a desvantagem de fornecer informações fora de contexto (ou fabricadas) que podem enganar analistas ou pesquisadores.