L'utilisation non déclarée de ChatGPT suscite des inquiétudes dans la publication scientifique

Dans un développement récent qui a fait des vagues dans la communauté scientifique, des chercheurs ont identifié des cas d’utilisation malhonnête de ChatGPT, un chatbot IA populaire, dans des articles scientifiques. Ces révélations mettent en lumière une préoccupation croissante concernant la transparence et l’intégrité des publications de recherche.

La découverte

Le 9 août, la revue *Physica Scripta* a publié un article visant à élucider des équations mathématiques complexes. Cependant, l’œil averti du scientifique informatique Guillaume Cabanac a remarqué une phrase étrange sur la troisième page du manuscrit : « Regenerate response » (Régénérer la réponse). Cette phrase s’est avérée être une étiquette de ChatGPT, un chatbot IA utilisé pour générer du texte en réponse aux invites de l’utilisateur. Cabanac a immédiatement partagé ses découvertes sur PubPeer, une plateforme où les scientifiques discutent de la recherche publiée.

Des enquêtes ultérieures ont révélé que les auteurs de l’article avaient effectivement utilisé ChatGPT pour les aider à rédiger leur manuscrit. Fait remarquable, cette anomalie n’avait pas été remarquée pendant le processus de révision par les pairs de deux mois et la phase de mise en page. Par conséquent, l’éditeur, IOP Publishing, a décidé de retirer l’article en raison de l’incapacité des auteurs à déclarer leur utilisation de l’outil lors de la soumission.

Le problème plus large

Ce cas n’est pas un incident isolé. Depuis avril, Guillaume Cabanac a identifié plus d’une douzaine d’articles de revues contenant les phrases caractéristiques de ChatGPT « Regenerate response » ou « En tant que modèle linguistique IA, je… », toutes publiées sur PubPeer. De nombreux éditeurs, y compris Elsevier et Springer Nature, autorisent l’utilisation de ChatGPT et de modèles linguistiques similaires à condition que les auteurs le déclarent.

Cependant, ces cas de détection ne représentent que la partie émergée de l’iceberg. Les chercheurs soupçonnent que de nombreux articles évalués par les pairs non déclarés ont utilisé ChatGPT sans déclaration appropriée. Les phrases elles-mêmes ont évolué, ChatGPT ayant changé son bouton « Regenerate response » en « Regenerate » lors d’une mise à jour.

Utilisation non déclarée à travers les revues

Guillaume Cabanac a découvert des phrases typiques de ChatGPT dans des articles publiés dans des revues Elsevier. Dans un cas, un article publié dans *Resources Policy* le 3 août a exploré l’impact du commerce électronique sur l’efficacité des combustibles fossiles dans les pays en développement. Cabanac a remarqué des incohérences dans les équations, mais la preuve irréfutable était une déclaration au-dessus d’un tableau : « Veuillez noter qu’en tant que modèle linguistique IA, je suis incapable de générer des tableaux spécifiques ou de réaliser des tests… »

Elsevier a reconnu le problème et mène actuellement une enquête. Les auteurs de l’article, affiliés à l’Université de Liaoning à Shenyang, en Chine, et à l’Académie chinoise du commerce et de la coopération économiques internationales à Pékin, n’ont pas répondu aux demandes de commentaire.

Le défi de la détection de la tromperie

Les articles partiellement ou entièrement rédigés par des logiciels informatiques sans divulgation ne sont pas nouveaux, mais ils présentent généralement des traces distinctives telles que des modèles linguistiques ou des phrases mal traduites. La suppression des phrases génériques de ChatGPT rend cependant le texte généré par l’IA presque impossible à repérer. Cela crée un défi permanent pour la communauté scientifique, souvent décrit comme une « course aux armements » entre les fraudeurs et ceux qui tentent de maintenir l’intégrité de la recherche.

Impact sur la révision par les pairs

L’utilisation non déclarée de ChatGPT a également fait surface dans des articles de conférences évalués par les pairs et des prépublications. Les auteurs, confrontés sur PubPeer, ont parfois admis avoir utilisé ChatGPT sans déclaration. Cette révélation met en lumière un problème majeur : les réviseurs par les pairs, surchargés, peuvent ne pas avoir suffisamment de temps pour examiner minutieusement les manuscrits à la recherche de signaux d’alarme.

L’essor des manuscrits falsifiés

La prolifération d’outils d’IA générative comme ChatGPT suscite des inquiétudes quant à l’essor potentiel des « paper mills », des entreprises qui produisent et vendent des manuscrits falsifiés aux chercheurs cherchant à augmenter leur production de publications. Ce phénomène menace d’exacerber un problème déjà difficile dans l’édition académique.

Repérer la tromperie

Les modèles linguistiques comme ChatGPT sont connus pour générer de fausses références, un signal potentiel pour les réviseurs par les pairs tentant de détecter leur utilisation dans les manuscrits. Des références fictives ont été identifiées dans certains cas, servant de signaux d’alarme pour alerter les réviseurs. La vigilance dans la vérification des références devient de plus en plus importante.

La découverte d’une utilisation non déclarée de ChatGPT dans les publications scientifiques souligne l’importance de la transparence et de l’intégrité dans la recherche. Alors que la communauté scientifique fait face aux défis posés par l’évolution des outils d’IA, il est évident que des directives plus strictes et une vigilance accrue dans la révision par les pairs sont essentielles pour maintenir la crédibilité de l’édition académique. Aborder ces questions est primordial pour garantir que la quête du savoir reste ancrée dans des principes éthiques et des pratiques de recherche rigoureuses.