As referências alucinatórias do ChatGPT levantam questões sobre integridade acadêmica

Em uma postagem recente no blog de Jordan MacDonald,dent de doutorado em Psicologia Experimental na Universidade de New Brunswick, foi demonstrado que o ChatGPT gerou mais de 90% das citações que forneceu como referências confiáveis. 

O jornal The News, publicado no Mind Pad da Associação Canadense de Psicologia, afirma que a IA agora consegue criar detalhes bibliográficos ou de referência falsos, que às vezes podem ser tão plausíveis quanto os reais, pois a IA incluiria informações que uma pessoa poderia lembrar e armazenar em seu cérebro, como autor, títulos, nomes edentde objetos digitais (DOIs) formatados corretamente. 

Navegando pelo papel duplo da IA ​​na pesquisa acadêmica

Embora osdentpossam ter dificuldade em formular um contraste entre o texto original e as referências geradas por IA,maticcorretas, mas factualmente incorretas, isso pode levá-los a duvidar da originalidade das ideias em contextos acadêmicos.

A pesquisa envolveu a verificação da autenticidade de citações na área da psicologia, abrangendo as seguintes seis subáreas: em psicologia, estudamos as cinco áreas de religião, psicologia animal, psicologia social, psicologia clínica, psicologia da personalidade e neuropsicologia. 

Por fim, um número 100% preciso para os subcampos, 300 de acordo com o ChatGPT, foi gerado; no entanto, apenas 32,3 deles se mostraram reais, o que é uma clara tendência para as áreas delimitadas.

Inteligência Artificial como paixão no trabalho acadêmico: Problemas e desvantagens

O ChattGPT pode oferecer tanto uma invenção falsa quanto uma legítima. O estudo de MacDonald corroborou essa hipótese. No entanto, esse estudo específico, realizado com base nesse prompt, não está alinhado com os estudos que geralmente vemos citados em relação ao ChattGPT. 

Em outras palavras, a economia em suprimentos devido aos erros do modelo complexo fará com que osdentconfiem nessa simplificação. Além disso, issotracuma discussão sobre as habilidades práticas que precisamos na escola e a origem dessas habilidades. 

A justificativa para o uso da IA ​​na pesquisa educacional depende do grau de indistinguibilidade que a IA consegue alcançar na simulação de especialistas

Por exemplo, evidências podem ser descobertas através do uso de ferramentas de IA para a principal tarefa acadêmica. Essas informações podem ser cruciais para apresentações da vida real ou parecer um tanto dispersas. Portanto, as ferramentas inteligentes de IA e as abordagens de ensino exigem uma análise cuidadosa.

Equilibrando os benefícios e os riscos da IA ​​na integridade acadêmica

A pesquisa, no entanto, não apenas revela as dificuldades relacionadas à IA nas escolas, mas também impulsiona a discussão sobre essas tecnologias como um instrumento valioso em atividades educacionais e de pesquisa quando usadas em determinadas circunstâncias. 

Educadores e pesquisadores são incentivados não apenas a reconhecer, mas também a compreender melhor as limitações e capacidades de tecnologias de IA como o Chat GPT, para que possam utilizá-las plenamente sem afetar o padrão acadêmico.

Segundo MacDonald, o fato de esses modelos possuírem imensas vantagens não deve nos levar a ignorá-los completamente, especialmente se nos induzirem a confiar apenas em suas conclusões para aprender sobre os temas acadêmicos de nosso interesse. Os resultados também sugerem a possibilidade de contradições geradas pela IA, visto que os indicadores de envolvimento da IA ​​no trabalhodent podem não seguir a regra geral.

O desenvolvimento contínuo da IA ​​exige estudos adicionais com o objetivo de elucidar as áreas de suas aplicações e suas potenciais limitações. A Scavenge irá pesquisar novas táticas para a detecção de plágio baseado em IA e outras formas de fraude. 

Se, por um lado, a IA como o ChatGPT pode trazer diversas vantagens para a pesquisa acadêmica, por outro, ela apresenta a desvantagem de fornecer informações fora de contexto (ou fabricadas) que podem induzir analistas ou pesquisadores ao erro.