Les références hallucinatoires de ChatGPT suscitent un examen minutieux de l'intégrité académique

Dans un récent article de blog de Jordan MacDonald,dent en psychologie expérimentale à l'Université du Nouveau-Brunswick, il a été démontré que ChatGPT était à l'origine de plus de 90 % des citations qu'il fournissait comme références faisant autorité. 

L'article publié dans Mind Pad de l'Association canadienne de psychologie indique que l'IA peut désormais créer de fausses informations bibliographiques ou de référence, qui peuvent parfois être aussi plausibles que les vraies, car l'IA inclurait les informations qu'une personne pourrait se rappeler et stocker dans son cerveau, comme l'auteur, les titres, les noms et lesdentd'objets numériques (DOI) correctement formatés. 

Comprendre le double rôle de l'IA dans la recherche universitaire

Bien que lesdentpuissent avoir du mal à formuler un contraste entre le texte original et les référencesmaticcorrectes mais factuellement fausses produites par l'IA, cela les amène à douter de l'originalité des idées dans un contexte académique.

La recherche a consisté à vérifier l'authenticité des citations dans le domaine de la psychologie à travers les six sous-domaines suivants : en psychologie, nous étudions les cinq domaines suivants : religion, animal, social, clinique, personnalité et neuropsychologie. 

Finalement, un nombre précis à 100 % pour les sous-champs, 300 selon ChatGPT, a été généré ; cependant, seuls 32,3 d'entre eux se sont avérés réels, ce qui est la tendance claire pour les zones délimitées.

L'IA comme passion de recherche universitaire : problèmes et inconvénients

ChattGPT peut proposer une invention aussi bien fausse que légitime. L'étude de MacDonald l'a confirmé. Cependant, cette étude, menée dans le cadre de cette question, ne correspond pas à celles que ChattGPT cite systématiquement. 

En d'autres termes, les économies réalisées sur les fournitures grâce aux erreurs du modèle complexe inciteront lesdentà faire confiance à cette simplification. De plus, celatracla question des compétences pratiques dont nous avons besoin à l'école et de la source de ces compétences. 

La pertinence du recours à l'IA comme outil de recherche en éducation dépend du degré d'indiscernabilité que l'IA peut atteindre lorsqu'il s'agit de simuler des experts

Par exemple, l'utilisation d'outils d'IA pour un travail universitaire principal pourrait révéler des éléments de preuve. Ces informations pourraient être cruciales pour les présentations de projets ou, au contraire, paraître éparses. Par conséquent, les outils d'IA et les approches pédagogiques associées méritent une attention particulière.

Équilibrer les avantages et les risques de l'IA en matière d'intégrité académique

Cependant, cette recherche met non seulement en lumière les difficultés liées à l'IA dans les écoles, mais elle alimente également le débat sur ces technologies en tant qu'instrument précieux dans les activités éducatives et de recherche lorsqu'elles sont utilisées dans certaines circonstances. 

Les enseignants et les chercheurs sont encouragés non seulement à reconnaître, mais aussi à mieux comprendre les limites et les capacités des technologies d'IA comme Chat GPT, afin de pouvoir utiliser pleinement ces technologies sans affecter le niveau académique.

Selon MacDonald, le fait que ces modèles présentent d'immenses avantages ne doit pas nous inciter à les ignorer complètement, surtout s'ils nous amènent à nous fier uniquement à leurs conclusions pour étudier les sujets académiques qui nous intéressent. Les résultats laissent également entrevoir la possibilité de contradictions induites par l'IA, qui pourraient être des indicateurs de son implication dans les travauxdent , même en dehors des règles empiriques.

Le développement de l'IA nécessite des études complémentaires visant à préciser ses domaines d'application et ses limites potentielles. Scavenge va explorer de nouvelles stratégies de détection du plagiat par l'IA et d'autres formes de fraude. 

Si, d'une part, une IA comme ChatGPT peut apporter divers avantages à la recherche universitaire, d'autre part, elle présente l'inconvénient de fournir des informations hors contexte (ou fabriquées) susceptibles d'induire en erreur les analystes ou les chercheurs.