Les chercheurs suggèrent des lignes directrices sur l'IA pour réduire les erreurs dans la recherche scientifique

Des preuves ont démontré qu'il existe des défauts majeurs dans la manière dont l'apprentissage automatique est appliqué dans la recherche scientifique. Ce problème a été identifié dans de nombreux articles de recherche couvrant différents domaines, mais une équipe de 19 chercheurs de différentes disciplines a publié des lignes directrices sur l'IA concernant l'utilisation responsable de l'apprentissage automatique dans la science sous la supervision d'Arvind Narayanan et Sayash Kapoor, tous deux informaticiens à l'Université de Princeton.

Lignes directrices sur l'IA pour la recherche scientifique

Les auteurs indiquent dans le rapport que leur travail est un effort pour signaler ce problème de crédibilité qui peut prévaloir dans tout l'écosystème de la recherche. Narayanan soutient qu'il n'existe pas de normes universelles pour protéger l'intégrité des méthodes de recherche, et que l'apprentissage automatique est désormais appliqué dans tous les domaines scientifiques, ce qui peut devenir un problème plus grave que la crise de réplication observée en psychologie sociale il y a dix ans. Il qualifie la crise actuelle de crise de reproductibilité. Comme l'a dit Narayanan,

« Lorsque nous passons des méthodes statistiques traditionnelles aux méthodes d'apprentissage automatique, il y a un nombre beaucoup plus grand de façons de se tirer une balle dans le pied. »

Source : AzoAI.

Mais les auteurs de la recherche en santé, en informatique, en sciences sociales et en mathématiques ont également de bonnes nouvelles. Ils affirment qu'un ensemble de bonnes pratiques peut aider à résoudre le problème actuel. Kapoor, étudiant diplômé en informatique qui a effectivement organisé l'effort de recherche pour produire la liste de contrôle pour le travail scientifique et travaille avec Narayanan, a déclaré que le problème est systémique et que la solution doit également l'être.

La publication peut ralentir, mais la précision augmentera

L'objectif de la nouvelle liste de contrôle basée sur un consensus est de garantir l'authenticité de la recherche utilisant l'apprentissage automatique. L'évolution de la science repose sur la reproductibilité des résultats et le fait que les affirmations doivent être validées indépendamment. Sans cela, une nouvelle recherche scientifique n'est pas possible de manière fiable sur la base des travaux précédents, et l'ensemble du système perd en crédibilité.

La nouvelle liste de contrôle exige que les chercheurs fournissent des informations détaillées sur l'utilisation des modèles d'apprentissage automatique, car ils sont tenus de fournir les ensembles de données utilisés pour entraîner le modèle, son code, les capacités matérielles, la conception pilote et les objectifs de recherche, ainsi que toute contrainte sur les résultats de l'étude, car l'accent est mis sur la transparence.

Bien qu'il soit également possible que les exigences accrues de ces nouvelles normes ralentissent la publication de nouvelles études de recherche, les chercheurs de l'initiative croient toujours que l'adoption de ces règles sera utile pour augmenter le taux de découverte et d'innovation en général. 

L'une des auteures de l'étude, Emily Cantrell, étudiante en doctorat à l'Université de Princeton, a déclaré qu'ils se soucient du rythme de la recherche scientifique, mais qu'en s'assurant que la qualité des articles publiés est à la hauteur, les articles futurs pourront s'y fier pour de nouvelles recherches. Kapoor ajoute également que les erreurs sont néfastes compte tenu de leur impact global et gaspillent du temps, ce qui coûte de l'argent car elles entravent la recherche scientifique qui reçoit du financement et des investissements.