Les « hallucinations » de l'IA suscitent une plainte pour atteinte à la vie privée

Noyb, l'organisation autrichienne indépendantedent protection des données fondée par l'avocat Max Schrems, a déposé une plainte auprès de l'autorité européenne de protection de la vie privée concernant OpenAI – une violation du RGPD et un défaut de correction des informations erronées.

Plainte pour atteinte à la vie privée déposée

Schrems, avocate spécialisée dans la protection de la vie privée et militante engagée, est à l'origine de certaines des plaintes les plus importantes en matière de protection de la vie privée au sein de l'UE. OpenAI est confrontée à l'DBS (Société autrichienne pour la domination et la discrimination), dont la contestation porte sur les « hallucinations », c'est-à-dire les réponses erronées que les grands modèles de langage d'IA (intelligence artificielle) ont tendance à fournir. La demande d'arbitrage comprend une enquête sur l'infraction, une décision déclaratoire, une sanction et l'étude des mesures correctives.

La société OpenAI serait au courant de la violation de données, mais cela n'a aucune importance. Selon le communiqué de presse, la déclaration de Noyb figure dans le communiqué annonçant le dépôt de la plainte.

Les grands modèles, comme ChatGPT, effectuent des calculs pour prédire les mots les plus pertinents pour certaines sélections. Il arrive que le modèle sélectionne les mauvais mots faute de prendre en compte le contexte, ce qui conduit à une réponse erronée, voire à une « hallucination », terme technique utilisé dans le secteur.

Cependant, cela ne correspond pas aux droits individuels tels qu'ils sont définis dans la tradition du « respect de la vie privée ». De ce fait, pour Noyb, la réglementation européenne n'a pas beaucoup insisté sur la nécessité de l'exactitude des données personnelles depuis 1995, et le RGPD, la plus récente loi de l'UE sur la protection de la vie privée, impose l'obligation d'une protection précise des données personnelles.

Cibler les « hallucinations » de l’IA

Dans cette optique, Noyb a souligné que les informations personnelles de tout commentateur public, même sans date de naissance, sont disponibles en ligne. ChatGPT a répondu par erreur avec sa date principale en raison d'une erreur dans la question.

OpenAI n'était pas non plus satisfaite de leur réponse non sollicitée concernant l'accès et l'effacement des données faisant l'objet de l'enquête menée en décembre 2023. En vertu du RGPD, les responsables du traitement des données doivent informer la personne concernée du traitement de ses données et effacer celles-ci sur demande, même si des restrictions à la suppression sont autorisées.

Noyb, qui a agi en tant que plaignant dans cette affaire, a découvert que le service fournissait des données statistiques à l'utilisateur ; toutefois, aucune information sur l'utilisation des données par le système n'était fournie.

Demandes de données mal gérées

Comme l'a indiqué OpenAI, outre la diffusion d'un message éducatif, l'entreprise s'est engagée à faire de son mieux pour empêcher le modèle d'indiquer l'année de naissance en réponse à la requête ; cependant, selon la plainte, elle ne peut corriger la réponse erronée affichée.

Cela a entraîné le blocage d'une partie plus importante des informations concernant la personne concernée sur ChatGPT. De ce fait, cela porte atteinte au droit du public à l'information sur cette personne – une personnalité connue – qu'OpenAI avait signalée par le biais d'une objection.

La plainte indiquait : « Aucune action d’un chatbot ne peut corriger les informations, aucun filtre ne peut effectuer un tri sélectif, ou tout simplement, aucune personne concernée ne peut se conformer à cette situation selon le responsable du traitement. »

Il s'agit uniquement de la filiale irlandaise, le siège social restant aux États-Unis, a déclaré Noyb à Margrethe Vestager, commissaire européenne à la concurrence. Cette filiale a été citée dans la plainte car elle appartient à la société américaine OpenAI OpCo LLC, conformément à ses statuts.