Les meilleurs modèles d'IA manquent de transparence, selon un nouvel indice
Les meilleurs modèles d'IA manquent de transparence, selon un nouvel indice
- Un nouvel indice révèle que la plupart des modèles d'IA manquent de transparence.
- La transparence est primordiale pour les autorités de régulation afin de réglementer efficacement l'IA en matière de sécurité des consommateurs.
- Le manque de transparence pourrait également rendre difficile la détection des biais, des problèmes de confidentialité et d'autres risques potentiels posés par les modèles d'IA.
Les chercheurs du Centre de recherche sur les modèles de base (CRFM) de Stanford ont récemment découvert que les plus grands modèles de base d'IA manquent de transparence, ce qui pourrait être une source de préoccupation, compte tenu de la puissance et de la rapidité avec lesquelles cette technologie se répand dans le monde.
Les principaux modèles d'IA manquent de transparence
Pour évaluer la transparence des 10 premiers modèles de base, les chercheurs se sont associés à d'autres experts du MIT et de Princeton pour développer l'« Indice de transparence des modèles de base ». L'indice évalue 100 aspects différents de la transparence en fonction de la manière dont une entreprise construit un modèle de base, de son fonctionnement et de son utilisation en aval.
L'indice a classé Llama 2 de Meta à 54 %, suivi de BLOOMZ de BigScience (53 %) et de GPT-4 d'OpenAI (48 %). PaLM 2 de Google avait une note de transparence de 40 %, le modèle le moins transparent étant Titan Text d'Amazon à 12 %.
« C'est une indication assez claire de la manière dont ces entreprises se comparent à leurs concurrents, et nous espérons qu'elle les motivera à améliorer leur transparence », a déclaré Rishi Bommasani, responsable social au CRFM.
Pourquoi est-ce important ?
La transparence des modèles d'IA est impérative pour prévenir certaines menaces à la protection des consommateurs et garantir également que ces outils sont sûrs à utiliser.
Le manque de transparence rendrait plus difficile pour les entreprises de savoir si elles peuvent construire en toute sécurité des applications à l'aide de modèles de base commerciaux, ou pour les universitaires de s'appuyer sur les modèles pour la recherche.
Du côté de la réglementation, c'est une priorité majeure. La transparence est importante pour éradiquer les biais, les violations de la vie privée, etc., et pour aider efficacement les décideurs politiques du monde entier à formuler des règles pour réglementer les modèles d'IA.
« Si vous n'avez pas de transparence, les régulateurs ne peuvent même pas poser les bonnes questions, encore moins agir dans ces domaines », a déclaré Bommasani.
Certains pays, dont l'Australie, ont déjà commencé à appliquer des mesures pour assurer la transparence et l'intégrité des modèles d'IA. En septembre, Cryptopolitan a rapporté que le gouvernement australien a donné aux citoyens le droit de demander des informations significatives sur la manière dont les décisions automatisées sont prises.
Le gouvernement exige que les entreprises d'IA fournissent ces informations de manière claire et compréhensible, garantissant que les citoyens peuvent comprendre comment l'IA influence leurs vies.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Ibiam Wayas
Ibiam Wayas couvre l'actualité des cryptomonnaies depuis 2019. Il a étudié l'informatique à l'Université ouverte du Nigeria. Ses travaux ont été publiés sur diverses plateformes d'actualités cryptographiques, dont Coinfomania, Crypto News Australia et AltcoinBuzz. Fort de son background en informatique, il se concentre désormais sur les actualités liées aux cryptomonnaies, à la robotique et à la longévité.
