ChatGPT visé par une plainte pour atteinte à la vie privée concernant des hallucinations diffamatoires

Le chatbot d'OpenAI, ChatGPT, fait l'objet d'une enquête en Europe pour non-respect de la vie privée. Il a montré une tendance à diffuser de fausses informations. Dangereux, n'est-ce pas ? Les autorités de régulation auront sans doute du mal à ignorer cette affaire.

En Norvège, une personne a reçu l'aide du Centre européen pour les droits numériques ( Noyb) après avoir découvert que ChatGPT lui fournissait de fausses informations. Le chatbot affirmait qu'elle avait été reconnue coupable du meurtre de deux de ses enfants et d'une tentative de meurtre sur un troisième. Ces informations pourraient se retourner contre elle.

Le plus aberrant, c'est qu'OpenAI n'offre aucun moyen de corriger les informations erronées que l'IA invente à leur sujet. Au lieu de cela, OpenAI propose de bloquer les réponses à ce type de questions. La question principale est de savoir si ces informations sont définitivement supprimées ou si elles peuvent être générées ultérieurement.

En revanche, le Règlement général sur la protection des données (RGPD) de l'Union européenne donne aux individus l'accès à leurs données et le droit de les faire rectifier. Une autre disposition de cette loi sur la sécurité des données stipule que les responsables du traitement des données personnelles doivent veiller à leur exactitude. Ce qui soulève la question.

Joakim Söderberg, avocat spécialisé dans la protection des données chez Noyb, a déclaré : « Le RGPD est clair. Les données personnelles doivent être exactes. […] Si ce n’est pas le cas, les utilisateurs ont le droit de les faire rectifier afin qu’elles reflètent la vérité. »

Il a ajouté : « Afficher aux utilisateurs de ChatGPT un petit avertissement indiquant que le chatbot peut commettre des erreurs ne suffit manifestement pas. On ne peut pas se contenter de diffuser de fausses informations et, à la fin, ajouter un petit avertissement disant que tout ce qui a été dit n’est peut-être pas vrai. »

Détails des enquêtes en cours

Lorsqu'on lui demande qui il est, le chatbot raconte une histoire tragique à propos d'Arve Hjalmar Holmen. Il explique qu'il a été reconnu coupable de meurtre d'enfants et condamné à 21 ans de prison pour avoir tué deux de ses propres enfants.

Alors, pourquoi est-ce encore plus dangereux ? Même s’il est faux d’affirmer qu’Hjalmar Holmen est un meurtrier d’enfants, Noyb souligne que la réponse de ChatGPT contient des éléments de vérité. Par exemple, la personne en question a bien trois enfants.

Le chatbot a également correctementdentle sexe de ses enfants et sa ville natale. Cependant, le fait que l'IA ait aussi inventé de tels mensonges est encore plus étrange et inquiétant.

Un représentant de Noyb a déclaré ignorer pourquoi le chatbot avait inventé un profil aussi détaillé, mais totalement faux, pour cette personne. Un porte-parole a indiqué que des recherches avaient été menées pour exclure toute confusion. Il a ajouté que des archives de presse avaient été consultées, mais qu'aucun élément ne permettait d'expliquer pourquoi l'IA avait inventé cette histoire de meurtre d'enfant.

À ce stade, la meilleure explication est que les grands modèles de langage, comme celui qui alimente ChatGPT, effectuent essentiellement une prédiction du mot suivant à très grande échelle. 

De ce fait, les jeux de données utilisés pour entraîner l'outil contenaient de nombreux récits de filicide, ce qui a influencé les mots choisis pour répondre à une question concernant un homme nommé. Cependant, quelle qu'en soit la raison, il est clair que ce type de résultats est totalement inacceptable.

Par ailleurs, Noyb affirme que le chatbot a cessé de diffuser des mensonges dangereux au sujet d'Hjalmar Holmen après la mise à jour du modèle d'IA qui le pilote. Ce changement est lié au fait que l'outil effectue désormais des recherches sur Internet pour obtenir des informations sur les personnes lorsqu'on lui demande leur identité.

Bien que ChatGPT semble avoir cessé de diffuser des mensonges diffamatoires à propos d'Hjalmar Holmen, Noyb et Hjalmar Holmen restent inquiets. Et si le modèle d'IA avait conservé des informations erronées et préjudiciables à son sujet ?

L'autorité norvégienne de protection des données a reçu une plainte contre OpenAI. Noyb espère que l'organisme de surveillance jugera qu'il est compétent pour enquêter, la plainte visant la filiale américaine d'OpenAI. Il est précisé dans la plainte que le bureau irlandais n'est pas seul responsable des décisions relatives aux produits ayant un impact sur les utilisateurs européens.

Le destin d'OpenAI

Ce n'est pas la première fois qu'OpenAI rencontre ce problème. Des utilisateurs se sont déjà plaints de la création de données personnelles incorrectes par ChatGPT, comme une date de naissance erronée ou des informations biographiques inexactes. 

L'autorité italienne de protection des données est intervenue dès le début du RGPD et a temporairement bloqué l'accès à ChatGPT en Italie au printemps 2023. Cette décision a contraint OpenAI à modifier certaines pratiques, notamment les informations fournies aux utilisateurs. Par la suite, l'autorité de protection des données a infligé à OpenAI une amende de 15 millions d'euros pour utilisation abusive des données personnelles.

Il est également intéressant de noter que l'autorité polonaise de protection des données enquête sur une plainte pour atteinte à la vie privée déposée contre ChatGPT depuis septembre 2023 et n'a toujours pas pris de décision.

Depuis, les autorités européennes chargées de la protection des données se montrent plus méfiantes à l'égard de l'IA de nouvelle génération. En effet, elles cherchent encore la meilleure façon d'appliquer le RGPD à ces outils d'IA populaires.

Toutefois, dans une plainte antérieure concernant Noyb ChatGPT, la Commission irlandaise de protection des données (DPC) a déclaré il y a deux ans qu'il ne fallait pas se précipiter pour interdire les outils d'IA générique, par exemple. La DPC est chargée de l'application du RGPD. Cela signifie plutôt que les autorités devraient prendre le temps de bien comprendre le fonctionnement de la loi.

Il semblerait que la nouvelle plainte déposée par Noyb contre ChatGPT vise à alerter les autorités de protection des données sur les dangers que représentent les IA sujettes aux hallucinations. Les violations avérées du RGPD peuvent entraîner des amendes allant jusqu'à 4 % du chiffre d'affaires annuel mondial.