Les références hallucinées de ChatGPT suscitent un examen de l'intégrité académique
- 32.3% des citations générées par l'IA s'avèrent fausses.
- ChatGPT résume avec précision lorsqu'il est fourni avec des références correctes.
- Les citations hallucinées varient considérablement selon les sous-domaines de la psychologie.
Dans un récent article de blog de Jordan MacDonald, doctorant en psychologie expérimentale à l'Université du Nouveau-Brunswick, il a été montré que ChatGPT avait créé plus de 90 % des citations qu'il fournissait comme références autoritaires.
Les nouvelles indiquent dans le Mind Pad de l'Association canadienne de psychologie que l'IA peut désormais créer des détails bibliographiques ou de référence falsifiés, qui peuvent parfois être aussi plausibles que les vrais, car l'IA inclut les informations qu'une personne pourrait se souvenir et stocker dans son cerveau, comme l'auteur, les titres, les noms et les identifiants d'objet numérique (DOI) correctement formatés.
Naviguer le double rôle de l'IA dans la recherche académique
Bien que les étudiants puissent avoir du mal à formuler une comparaison entre le texte original et les références grammaticalement correctes mais factuellement fausses créées par l'IA, les amenant ainsi à douter de l'originalité des idées dans les milieux académiques.
La recherche a impliqué la vérification de l'authenticité des citations dans le domaine de la psychologie à travers les six sous-domaines suivants : en psychologie, nous étudions les cinq domaines de la religion, de l'animal, du social, du clinique, de la personnalité et de la neuropsychologie.
Finalement, un nombre de 100 % précis pour les sous-domaines, 300 selon ChatGPT, a été généré, cependant, seulement 32,3 % d'entre eux se sont révélés réels, ce qui est la tendance claire pour les domaines décrits.
L'IA comme passion du travail académique : problèmes et inconvénients
ChatGPT peut offrir une invention fausse ou légitime. L'étude de MacDonald a confirmé cela. Pourtant, cette étude particulière réalisée avec ce prompt ne correspond pas à celles que nous voyons toujours citées pour ChatGPT.
En d'autres termes, les économies sur les fournitures dues aux erreurs du modèle complexe feront que les résidents feront confiance à cette simplification. De plus, cela attire une discussion sur les compétences de vie dont nous avons besoin à l'école et la source de ces compétences.
Que le rôle de l'IA en tant que moyen de mener des recherches éducatives soit justifié ou non dépend du degré d'indiscernabilité que l'IA peut atteindre lorsqu'il s'agit de simuler des experts.
Par exemple, des preuves pourraient être découvertes grâce à l'utilisation d'outils d'IA pour le devoir académique principal. Ces informations pourraient être cruciales pour les présentations de vie ou paraître un peu dispersées. Ainsi, les outils intelligents d'IA et les approches pédagogiques nécessiteraient une considération sérieuse.
Équilibrer les avantages et les risques de l'IA dans l'intégrité académique
La recherche, cependant, met non seulement en lumière les difficultés liées à l'IA dans les écoles, mais pousse également la discussion sur ces technologies comme un instrument précieux dans les activités éducatives et de recherche lorsqu'elles sont utilisées dans certaines circonstances.
Les éducateurs et les chercheurs sont encouragés non seulement à reconnaître, mais aussi à mieux comprendre les limites et les capacités des technologies d'IA comme ChatGPT, afin qu'ils puissent pleinement utiliser ces technologies sans affecter la norme académique.
Selon MacDonald, le fait qu'ils (ces modèles) aient d'immenses avantages ne devrait pas nous amener à les ignorer complètement, surtout s'ils nous induisent en erreur en nous faisant compter uniquement sur leurs conclusions pour apprendre sur les sujets académiques qui nous intéressent. Les résultats suggèrent également la possibilité que les contradictions créées par l'IA servent d'indicateurs de l'implication de l'IA dans les travaux des étudiants, même en ne suivant pas la règle générale.
Le développement futur de l'IA nécessite des études supplémentaires visant à élucider les domaines de ses applications et ses limitations potentielles. Scavenge va rechercher de nouvelles tactiques pour la détection du plagiat basé sur l'IA et d'autres formes de tricherie.
Alors que, d'une part, l'IA comme ChatGPT peut conduire à divers avantages dans la recherche académique, d'autre part, elle présente l'inconvénient de fournir des informations hors contexte (ou fabriquées) qui peuvent induire les analystes ou les chercheurs en erreur.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne décline aucune responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d’investissement.
Emman Omwanda
L'expertise d'Emmanuel Omwanda repose sur les marchés de la cryptomonnaie, couvrant à la fois l'analyse fondamentale et technique. Il a précédemment travaillé pour divers sites médiatiques spécialisés dans la cryptomonnaie avant de rejoindre Cryptopolitan, notamment CoinEdition, The Crypto Basic, CryptoNews Flash et DroomDroom. Il est titulaire d'un baccalauréat en sciences (BSc.) en mathématiques et informatique de l'Université Kenyatta au Kenya, et est actuellement en dernière année d'études pour un baccalauréat en arts en communication et études médiatiques.
