ChatGPT visé par une plainte pour violation de la vie privée en raison d'hallucinations diffamatoires
- ChatGPT fait l'objet d'une enquête en Europe pour des plaintes relatives à la vie privée concernant sa tendance à halluciner de fausses informations.
- RGPD la loi sur la sécurité impose aux responsables du traitement des données personnelles de garantir leur exactitude.
- Les violations avérées du RGPD peuvent entraîner des amendes allant jusqu'à 4 % du chiffre d'affaires annuel mondial.
Le chatbot d'OpenAI, ChatGPT, fait l'objet d'enquêtes en Europe pour des plaintes relatives à la vie privée. Il a montré une tendance à halluciner des informations fausses. Dangereux, non ? Celui-ci pourrait être difficile à ignorer pour les régulateurs.
Une personne en Norvège reçoit l'aide du Centre européen des droits numériques, Noyb, après avoir découvert que ChatGPT renvoyait des informations fausses. Le chatbot a affirmé qu'il avait été reconnu coupable du meurtre de deux de ses enfants et d'une tentative de meurtre sur un troisième. Ces informations pourraient lui retomber dessus plus tard.
Le plus fou, c'est qu'OpenAI ne donne pas aux gens la possibilité de corriger les fausses informations que l'IA invente à leur sujet. Au lieu de cela, OpenAI propose de bloquer les réponses à ce type de questions. La question principale est de savoir si les informations sont supprimées ou pourraient être générées plus tard.
D'autre part, le Règlement général sur la protection des données (RGPD) de l'Union européenne donne aux gens accès à leurs données et le droit de faire corriger leurs données personnelles. Une autre partie de cette loi sur la sécurité des données stipule que les personnes responsables des données personnelles doivent s'assurer qu'elles sont exactes. Cela fait de cette affaire un cas d'école.
Joakim Söderberg, avocat en protection des données chez Noyb, a déclaré, « Le RGPD est clair. Les données personnelles doivent être exactes. […] Si ce n'est pas le cas, les utilisateurs ont le droit de les faire modifier pour refléter la vérité. »
Il a ajouté, « Montrer aux utilisateurs de ChatGPT un petit avertissement indiquant que le chatbot peut faire des erreurs n'est clairement pas suffisant. On ne peut pas simplement répandre de fausses informations et ajouter à la fin une petite mention disant que tout ce qui a été dit pourrait ne pas être vrai. »
Détails des enquêtes en cours
Le chatbot raconte une triste histoire sur Arve Hjalmar Holmen lorsqu'on lui demande qui il est. Il affirme qu'il a été reconnu coupable de meurtre d'enfant et condamné à 21 ans de prison pour avoir tué deux de ses propres enfants.
Maintenant, pourquoi est-ce encore plus dangereux ? Bien qu'il ne soit pas vrai que Hjalmar Holmen soit un meurtrier d'enfants, Noyb souligne que la réponse de ChatGPT inclut certaines vérités. Par exemple, la personne en question a bien trois enfants.
Le chatbot a également identifié correctement les genres de ses enfants et a nommé correctement sa ville natale. Cependant, le fait que l'IA ait également inventé de tels mensonges terribles rend la situation encore plus étrange et troublante.
Un représentant de Noyb a déclaré qu'ils ne savaient pas pourquoi le chatbot avait inventé un arrière-plan aussi détaillé mais faux pour cette personne. Un porte-parole a déclaré qu'ils avaient fait des recherches pour s'assurer qu'il ne s'agissait pas simplement d'une confusion avec une autre personne. Le porte-parole a déclaré qu'ils avaient parcouru les archives de journaux mais n'avaient pas trouvé de raison pour laquelle l'IA avait inventé le meurtre d'enfant.
À ce stade, la meilleure explication est que les grands modèles de langage, comme celui qui alimente ChatGPT, effectuent essentiellement une prédiction du mot suivant à une échelle massive.
En raison de cela, les ensembles de données utilisés pour former l'outil contenaient de nombreuses histoires de parricide qui ont influencé les mots choisis pour répondre à une question sur un homme nommé. Cependant, quelle que soit la raison, il est clair que ce type de sorties n'est absolument pas acceptable.
Pendant ce temps, Noyb indique que le chatbot a cessé de raconter des mensonges dangereux sur Hjalmar Holmen après la mise à jour du modèle d'IA qui le fait fonctionner. Ce changement est lié au fait que l'outil recherche désormais sur Internet des informations sur les personnes lorsqu'on lui demande qui elles sont.
Bien que ChatGPT semble avoir cessé de propager des mensonges nuisibles sur Hjalmar Holmen, Noyb et Hjalmar Holmen restent inquiets. Et si le modèle d'IA avait conservé des informations erronées et préjudiciables à son sujet ?
L'autorité norvégienne de protection des données a reçu une plainte contre OpenAI. Noyb espère que le régulateur décidera qu'il a le pouvoir d'enquêter, car la plainte vise la succursale américaine d'OpenAI. La plainte stipule que son bureau irlandais n'est pas seul responsable des décisions de produit qui affectent les Européens.
Le destin d'OpenAI
Ce n'est pas la première fois pour OpenAI. Des gens se sont déjà plaints de la création par ChatGPT de données personnelles incorrectes, telles qu'une date de naissance erronée ou des informations biographiques inexactes.
Le gardien de la protection des données en Italie est intervenu tôt au titre du RGPD et a temporairement bloqué l'accès à ChatGPT dans le pays au printemps 2023. Cela a conduit OpenAI à modifier certaines choses, telles que les informations qu'il fournit aux utilisateurs. Par la suite, le gardien a infligé à OpenAI une amende de 15 millions d'euros pour avoir utilisé les données des personnes sans raison valable.
Il est également intéressant de noter que le gardien de la protection des données en Pologne examine une plainte pour violation de la vie privée contre ChatGPT depuis septembre 2023 et n'a toujours pas pris de décision.
Depuis lors, les responsables de la vie privée en Europe sont devenus plus méfiants à l'égard de l'IA générative. Cela s'explique par le fait qu'ils cherchent encore à déterminer la meilleure façon d'appliquer le RGPD à ces outils d'IA populaires.
Cependant, dans une plainte antérieure concernant Noyb ChatGPT, la Commission irlandaise de la protection des données (DPC) a déclaré il y a deux ans que les gens ne devraient pas se précipiter pour interdire les outils d'IA générative, par exemple. La DPC est chargée de faire respecter le RGPD. Au lieu de cela, cela signifie que les responsables devraient prendre le temps de comprendre comment la loi fonctionne.
Il semble que la nouvelle plainte de Noyb contre ChatGPT vise à réveiller les responsables de la vie privée face aux dangers des IA qui hallucinent. Les violations confirmées du RGPD peuvent entraîner des amendes allant jusqu'à 4 % du chiffre d'affaires annuel mondial.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Florence Muchai
Florence couvre depuis 6 ans l'actualité crypto, du jeu vidéo, de la technologie et de l'IA. Ses études en informatique à l'Université de sciences et technologies de Meru et sa formation en gestion des catastrophes et en diplomatie internationale à l'MMUST lui ont amplement permis de développer des compétences linguistiques, d'observation et techniques. Florence a travaillé au sein du groupe VAP et en tant qu'éditrice pour plusieurs médias spécialisés dans la crypto.
