ChatGPT continue de propager des fausses informations, selon le régulateur de données de l’UE
Jeffrey Gogo
2 min de lecture
- ChatGPT ne répond toujours pas aux normes de précision des données de l'UE, selon un nouveau rapport.
- L'UE déclare que les efforts d'OpenAI pour mettre ChatGPT en conformité sont « insuffisants ».
- L'engagement d'OpenAI en matière de sécurité des utilisateurs est remis en question.
ChatGPT, le chatbot viral d'OpenAI, ne répond toujours pas aux normes d'exactitude des données de l'Union européenne, selon un nouveau rapport du gardien de la vie privée de l'UE.
À lire également : L'Acte sur l'IA de l'Europe obtient l'approbation finale avec des amendes allant jusqu'à $38M
Le rapport du Comité européen de la protection des données (EDPB) n'est pas un document juridique. Cependant, il informera une approche commune pour réglementer ChatGPT dans les 27 États membres de l'UE.
ChatGPT ne se conforme pas aux normes de données
Les gardiens de la paix nationaux ont formé le « groupe de travail ChatGPT » l'année dernière sous l'impulsion de cas en cours dans plusieurs pays européens contre le modèle d'IA. Le groupe de travail relève de l'EDPB.
Dans un rapport publié le 24 mai, le groupe de travail a déclaré :
« Bien que les mesures prises pour se conformer au principe de transparence soient bénéfiques pour éviter les interprétations erronées de la sortie de ChatGPT, elles ne sont pas suffisantes pour se conformer au principe d'exactitude des données. »
Les grands modèles de langage, ou LLM, sont notoires pour « halluciner » – un terme technique pour désigner lorsque les chatbots IA débloquent des faussetés, souvent avec confiance.
Les chatbots comme ChatGPT ou Gemini de Google sont alimentés par des LLM. Conformément à la rigoureuse Règlement général sur la protection des données (RGPD) de l'Europe, les utilisateurs peuvent intenter un procès pour avoir été mal présentés ou privés de la possibilité de corriger des informations inexactées les concernant.
Selon le rapport du groupe de travail, « En raison de la nature probabiliste du système (IA), l'approche d'entraînement actuelle conduit à un modèle qui peut également produire des sorties biaisées ou inventées. »
« Les sorties fournies par ChatGPT sont susceptibles d'être prises comme factuellement exactes par les utilisateurs finaux, y compris les informations relatives aux individus, indépendamment de leur exactitude réelle », a-t-il ajouté.
L'UE se renforce sur la conformité
OpenAI a précédemment cité la complexité technique pour son incapacité à corriger la désinformation, mais le gardien de la paix de l'Union européenne se renforce.
« En particulier, l'impossibilité technique ne peut être invoquée pour justifier la non-conformité à ces exigences », a noté le groupe de travail.
Dans une nouvelle affaire ouverte, une personnalité publique autrichienne poursuit ChatGPT pour ne pas avoir corrigé sa date de naissance. OpenAI a déclaré que cela ne serait pas techniquement réalisable, mais ce nouveau rapport exercera une pression supplémentaire sur le modèle d'IA.
Un avocat en protection des données lié à l'affaire, Maartje de Graaf, a déclaré que les entreprises sont actuellement incapables de faire respecter les chatbots IA par la loi de l'UE lors du traitement des données concernant des individus.
« Si un système ne peut pas produire de résultats précis et transparents, il ne peut pas être utilisé pour générer des données sur des individus. La technologie doit respecter les exigences légales, et non l'inverse », a déclaré de Graaf.
Des inquiétudes en matière de sécurité planent sur OpenAI
Les experts disent que ChatGPT nécessitera des changements ambitieux pour éviter de violer le RGPD, qui réglemente la protection des données dans l'Union européenne.
Ces règles fournissent également un modèle de travail pour les lois sur les données en Argentine, au Brésil, au Chili, au Japon, au Kenya, à Maurice, en Afrique du Sud, en Corée du Sud, en Turquie et au Royaume-Uni.
À lire également : OpenAI supprime la voix de ChatGPT après la controverse avec Scarlett Johansson
Pendant ce temps, l'engagement d'OpenAI envers la sécurité des utilisateurs est remis en question.
L'entreprise a été touchée par une série de démissions de haut profil, avec le départ du cofondateur Ilya Sutskever, Gretchen Krueger, Jan Leike et une demi-douzaine d'autres, ce qui plaide en faveur d'un changement de culture.
Plus tôt cette semaine, OpenAI a annoncé la suspension de la voix « Sky » de ChatGPT après des craintes qu'elle ne ressemble à celle de l'actrice Scarlett Johansson dans le film à thème IA, Her.
Reporting de Cryptopolitan par Jeffrey Gogo
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avis de non-responsabilité. Les informations fournies ne constituent pas un conseil en investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Jeffrey Gogo
Jeffrey Gogo est journaliste avec 20 ans d'expérience dans les actualités et analyses liées aux affaires, à la finance et au changement climatique. Son travail a été publié par la Fondation Thomson Reuters, le Zimbabwe Herald et plusieurs publications en ligne. Il a également écrit abondamment sur l'IA et le métavers et a commencé à couvrir les marchés cryptographiques en 2017. Gogo a étudié le journalisme et la communication de masse à CCOSA à Harare.
