Un journal scientifique retire un article pour usage non déclaré de l'IA

Dans une révélation récente, le respecté journal scientifique Physica Scripta a dû retirer un article de recherche publié en août. La cause du retrait était la découverte que les auteurs avaient utilisé l'application d'intelligence artificielle ChatGPT pour composer l'article. Malgré deux mois de révision par les pairs, cet usage de l'IA est resté non divulgué, conduisant à une violation des politiques éthiques du journal et suscitant des inquiétudes quant aux défis de la surveillance de la recherche assistée par l'IA.

L'article publié le 9 août dans Physica Scripta était consacré à la recherche de solutions innovantes à des équations mathématiques complexes. Cependant, il contenait une phrase conspicuous, « Regenerate response » (Régénérer la réponse), sur sa troisième page. Un lecteur astucieux a reconnu cette phrase comme correspondant à un bouton sur ChatGPT, comme rapporté par Nature.

Reconnaissance de l'assistance de l'IA

Après enquête, les auteurs de l'article ont fini par admettre avoir employé ChatGPT pour aider à la rédaction de leur manuscrit. Leur admission est venue après que l'article ait subi un long processus de révision par pairs suite à sa soumission en mai. Cette révélation a conduit l'éditeur du journal, basé au Royaume-Uni, à retirer l'article. L'échec à divulguer l'utilisation de l'application IA au moment de la soumission a été jugé comme une violation des politiques éthiques, selon Kim Eggleton, responsable de la révision par les pairs et de l'intégrité de la recherche chez IOP Publishing.

Guillaume Cabanac : Champion de la transparence

L'oubli apparent de ne pas détecter l'écriture assistée par ChatGPT a été mis en lumière par Guillaume Cabanac, un informaticien et enquêteur en intégrité en mission depuis 2015 pour dévoiler les articles de recherche qui manquent de transparence concernant leur utilisation de l'IA. Sa frustration face aux articles frauduleux alimente la détermination de Cabanac à découvrir les pratiques trompeuses dans la publication académique.

Cyril Labbé, un autre informaticien qui collabore avec Cabanac sur ces enquêtes, a expliqué la motivation de Cabanac, déclarant : « Il est frustré par les faux articles. » La découverte récente de Cabanac dans Physica Scripta n'est pas un incident isolé ; il a également identifié une situation similaire dans un article publié dans Resources Policy, qui comprenait des « équations non sensées », soulignant davantage les pièges potentiels dans le processus de révision par les pairs.

Les défis du contrôle policier de l'IA dans la recherche

Bien que le processus de révision par les pairs soit conçu pour maintenir l'intégrité de la publication académique, le volume croissant de recherches publiées pose des défis significatifs. De nombreux examinateurs n'ont ni le temps ni les ressources pour examiner méticuleusement chaque aspect d'un article, y compris les indices subtils indiquant l'utilisation potentielle de l'IA. David Bimler, un autre chercheur dévoué à l'identification des articles frauduleux, a exprimé les difficultés rencontrées au sein de l'écosystème scientifique, où la pression de « publier ou périr » peut entraîner des lacunes dans la supervision.

« Tout l'écosystème scientifique fonctionne sur le principe du « publier ou périr », » a souligné Bimler. Il a noté que le nombre considérable d'articles soumis rend difficile pour les gardiens du seuil de vérifier minutieusement chacun d'eux, permettant potentiellement à des problèmes tels que l'assistance IA non divulguée de passer inaperçus.

La réponse de Physica Scripta

Malgré les préoccupations croissantes suscitées par cet incident, Physica Scripta n'a pas encore émis de réponse officielle aux demandes de Fox News. Le retrait de l'article en question souligne la nécessité de directives et de meilleures pratiques plus claires pour les chercheurs lorsque des outils d'IA sont impliqués dans la recherche et l'écriture. Maintenir la transparence et l'intégrité dans la recherche scientifique est primordial, surtout à mesure que les technologies IA deviennent de plus en plus présentes dans le monde académique.

Le retrait de l'article dans Physica Scripta sert d'avertissement pour la communauté scientifique, mettant en lumière les défis posés par l'évolution du paysage de la recherche assistée par l'IA. À mesure que la technologie progresse, il devient impératif d'établir des protocoles robustes pour divulguer l'implication de l'IA dans la recherche, en veillant à ce que la transparence et l'intégrité restent au premier plan de la publication académique. Équilibrer les exigences de publication avec la nécessité d'une supervision rigoureuse est un défi que la communauté scientifique doit relever pour sauvegarder la crédibilité de la recherche.