Les hallucinations de l'IA apportent une nouvelle difficulté juridique à OpenAI
- Une plainte a été déposée contre OpenAI en Autriche pour ses hallucinations de ChatGPT par une organisation de défense des droits numériques appelée Noyb.
- ChatGPT a fourni de fausses informations concernant l'anniversaire d'une personnalité publique et a refusé de supprimer ou de corriger ces informations.
- L'avocat de Noyb affirme que les entreprises ne peuvent pas créer de chatbots capables de respecter les exigences du droit européen.
Une organisation de protection de la vie privée, Noyb, a déposé une plainte contre OpenAI auprès de l'Autorité autrichienne de protection des données (DPA) au motif que son produit ChatGPT enfreint de nombreuses lois européennes sur la protection des données. L'organisation a déclaré que ChatGPT partage des informations incorrectes sur les personnes, et que le Règlement général sur la protection des données (RGPD) de l'UE exige que les informations sur les personnes soient exactes et qu'elles aient un accès complet aux informations les concernant.
OpenAI fait face à des accusations au titre du RGPD
Noyb a été fondée par l'avocat et militant célèbre Max Schrems, et elle a affirmé que ChatGPT a partagé une fausse date d'anniversaire concernant une figure publique célèbre, et lorsqu'on lui a demandé la permission d'accéder et de supprimer les données le concernant, sa demande a été refusée par OpenAI.
Noyb affirme que, selon le RGPD de l'UE, toute information concernant un individu doit être exacte et qu'il doit avoir accès à l'information et à la source, mais selon elle, OpenAI déclare qu'elle est incapable de corriger les informations dans son modèle ChatGPT. L'entreprise est également incapable de dire d'où proviennent les informations, et même qu'elle ne sait pas quelles données ChatGPT stocke sur les individus.
Noyb affirme qu'OpenAI est consciente du problème et semble s'en moquer, son argument sur la question étant que,
« L'exactitude factuelle dans les grands modèles de langage reste un domaine de recherche actif. »
Noyb a noté que les informations erronées peuvent être tolérables lorsque ChatGPT les produit lorsque les étudiants l'utilisent pour leurs devoirs, mais elle a déclaré qu'il est clairement inacceptable pour les personnes individuelles, car c'est une exigence de la loi européenne que les données personnelles soient exactes.
Les hallucinations rendent les chatbots non conformes aux réglementations de l'UE
Noyb a mentionné que les modèles d'IA sont sujets aux hallucinations et produisent des informations qui sont en fait fausses. Ils ont remis en question la procédure technique d'OpenAI pour générer des informations, notant le raisonnement d'OpenAI selon lequel,
« réponses aux demandes des utilisateurs en prédisant les mots les plus probables suivants qui pourraient apparaître en réponse à chaque invite. »
Noyb fait valoir que cela signifie que malgré le fait que l'entreprise dispose de vastes ensembles de données disponibles pour entraîner son modèle, elle ne peut toujours pas garantir que les réponses fournies aux utilisateurs sont factuellement correctes.
Maartje de Gaaf, avocate en protection des données chez Noyb, a déclaré,
« Inventer de fausses informations est problématique en soi. Mais lorsqu'il s'agit de fausses informations concernant des individus, il peut y avoir de graves conséquences. »
Source : Noyb.
Il a également déclaré que toute technologie doit respecter les lois et ne peut pas jouer avec, car selon lui, si un outil ne peut pas produire de résultats corrects sur les individus, alors il ne peut pas être utilisé à cette fin. Il a également ajouté que les entreprises ne sont pas encore techniquement solides pour créer des chatbots qui peuvent se conformer aux lois européennes sur ce sujet.
Les outils d'IA générative sont sous la stricte surveillance des régulateurs européens de la protection des données, car en 2023, l'autorité italienne de protection des données (DPA) a temporairement restreint la protection des données. Il est encore incertain quelles seront les issues, mais selon Noyb, OpenAI ne prétend même pas qu'elle se conformera à la loi de l'UE.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement : Les informations fournies ne constituent pas des conseils de trading. Cryptopolitan.com décline toute responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener des recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
