Les modèles d'IA crachent du « charabia » lorsqu'ils sont entraînés sur des données générées par l'IA

Les grands modèles de langage (LLM) entraînés sur des itérations précédentes de matériel généré par l'IA produisent des sorties qui manquent de substance et de nuance, a trouvé une nouvelle étude. Les résultats présentent un nouveau défi pour les développeurs d'IA, qui s'appuient sur des ensembles de données limités générés par des humains pour le contenu.

À lire également : Les deepfakes d'IA rendent difficile la protection des enfants par les autorités américaines – rapport

Des chercheurs en intelligence artificielle de l'Université de Cambridge et de l'Université d'Oxford au Royaume-Uni ont essayé d'écrire des invites en s'appuyant sur un ensemble de données composé uniquement de contenu généré par l'IA. Le résultat n'était pas idéal, car il a produit des réponses incompréhensibles.

L'IA a encore besoin des humains pour donner du sens

L'un des auteurs de l'article, Zhakar Shumaylov de l'Université de Cambridge a déclaré qu'il existe un besoin de contrôle qualité dans les données qui alimentent les LLM, la technologie derrière les chatbots d'IA générative comme ChatGPT et Gemini de Google. Shumaylov a déclaré :

« Le message est que nous devons être très prudents quant à ce qui finit dans nos données d'entraînement. [Sinon,] les choses iront toujours, de manière prouvable, mal. »

Le phénomène est connu sous le nom d'« effondrement du modèle », a détaillé Shumaylov. Il a été prouvé qu'il affecte toutes sortes de modèles d'intelligence artificielle, y compris ceux qui se spécialisent dans la génération d'images à l'aide d'invites de texte.

Selon l'étude, des invites de texte répétées utilisant des données générées par l'IA sur un modèle ont fini par générer du charabia. Par exemple, les chercheurs ont découvert qu'un système testé avec du texte sur les tours d'églises médiévales du Royaume-Uni a produit une liste répétitive de lièvres après seulement neuf générations.

Commentant les sorties, Hany Farid, informaticien de l'Université de Californie, a comparé l'effondrement des données aux problèmes endémiques de l'endogamie animale.

« Si une espèce s'accouple avec sa propre progéniture et ne diversifie pas son pool génétique, cela peut conduire à un effondrement de l'espèce », a déclaré Farid.

Lorsque les chercheurs ont injecté des données générées par des humains dans les données de l'IA, l'effondrement s'est produit plus lentement que lorsqu'il fonctionnait sur du contenu généré purement par l'IA.

Les chercheurs : l'IA pourrait aggraver les biais contre les groupes minoritaires

Les modèles de langage fonctionnent en établissant des associations entre les jetons — mots ou parties de mots — dans d'immenses étendues de texte, souvent extraits d'Internet. Ils génèrent du texte en sortant le mot suivant statistiquement le plus probable, basé sur ces modèles appris.

À lire également : L'ours en peluche Poe alimenté par ChatGPT lit des histoires du soir aux enfants

L'étude, publiée dans la revue Nature le 24 juillet, a montré que les informations mentionnées quelques fois dans les ensembles de données ont peu de chances d'être répétées. Les chercheurs craignent que cela n'ait un impact négatif sur les groupes minoritaires déjà marginalisés.

Pour éviter l'effondrement du modèle dans les cas d'utilisation réels, l'étude a suggéré de filigraner le contenu généré par l'IA et le contenu généré par des humains. Mais cela pourrait également être problématique en raison d'un manque de coordination entre les entreprises d'IA rivales, a-t-elle indiqué.

Les résultats de l'étude surviennent alors qu'il y a un débat accru sur le fait de savoir si l'IA entraînera l'exclusion totale des humains dans la création de contenu, y compris l'écriture de romans et d'articles de journal.

Intitulée « Les modèles d'IA s'effondrent lorsqu'ils sont entraînés sur des données générées de manière récursive », les résultats de l'étude mettent fin à ce débat – les humains ne sont pas encore retirés de l'équation.