Voici pourquoi les LLM peuvent présenter un grand risque pour la science
Voici pourquoi les LLM peuvent présenter un grand risque pour la science
- Les LLM peuvent parfois présenter des informations fausses comme exactes, ce qui pose des risques pour des domaines comme la science, où les faits sont essentiels.
- Le défaut provient généralement des données extraites sur lesquelles les modèles sont entraînés.
- Des chercheurs d'Oxford ont soutenu que les LLM devraient être utilisés au mieux comme « traducteurs zero-shot » afin de protéger la science.
Les grands modèles de langage (LLM) constituent une avancée majeure dans le secteur de l'intelligence artificielle. Cependant, l'une des principales préoccupations concernant les LLM est leur capacité à présenter des informations inexactes comme des faits, ce qui pose plusieurs risques.
LLM et hallucinations
Les LLM peuvent parfois produire des « hallucinations », qui sont des déclarations fausses ou trompeuses non ancrées dans la réalité. Cette lacune découle généralement des données sur lesquelles les modèles sont entraînés.
Les modèles d'IA sont entraînés sur d'énormes quantités de données extraites d'Internet, qui contiennent à la fois des informations exactes et inexactes. Par conséquent, les LLM apprennent à générer du texte cohérent avec les données sur lesquelles ils ont été entraînés, même si ce texte n'est pas factuellement exact.
Par exemple, un LLM invité à rédiger un résumé d'un article scientifique pourrait générer un résumé factuellement incorrect parce qu'il a appris à associer certains mots et expressions à certains concepts, même si ces associations ne sont pas exactes.
Avec une telle faille, l'utilisation des LLM devient préoccupante, surtout dans le domaine scientifique où les faits comptent.
« La manière dont les LLM sont utilisés importe. Dans la communauté scientifique, il est vital que nous ayons confiance dans les informations factuelles, il est donc important d'utiliser les LLM de manière responsable. Si les LLM sont utilisés pour générer et diffuser des articles scientifiques, des dommages graves pourraient en résulter », déclare le Professeur Sandra Wachter, de l'Oxford Internet Institute.
Meilleure approche pour utiliser les LLM
Dans un article de recherche publié par les professeurs Wachter, Brent Mittelstadt et Chris Russell d'Oxford, ils ont soutenu que des attentes claires devraient être fixées quant à la contribution responsable et utile des modèles d'IA afin de protéger la science et l'éducation.
Les chercheurs ont noté que les LLM devraient idéalement être utilisés comme « traducteurs zero-shot », ce qui signifie que les utilisateurs ne devraient présenter aux modèles que des informations exactes et leur demander de les réécrire dans le texte souhaité. « Pour les tâches où la vérité importe, nous encourageons les utilisateurs à rédiger des invites de traduction incluant des informations factuelles validées », indique l'article.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Ibiam Wayas
Ibiam Wayas couvre l'actualité des cryptomonnaies depuis 2019. Il a étudié l'informatique à l'Université ouverte du Nigeria. Ses travaux ont été publiés sur diverses plateformes d'actualités cryptographiques, dont Coinfomania, Crypto News Australia et AltcoinBuzz. Fort de son background en informatique, il se concentre désormais sur les actualités liées aux cryptomonnaies, à la robotique et à la longévité.
