Les « hallucinations » de l'IA déclenchent une plainte pour violation de la vie privée

Noyb, l'organisation autrichienne indépendante de protection des données fondée par l'avocat Max Schrems, a déposé une plainte auprès de l'autorité européenne de la protection des données concernant OpenAI – une violation du RGPD et un défaut de fournir un recours pour les informations incorrectes.

Plainte pour violation de la vie privée déposée

Schrems, un avocat réputé de la vie privée et militant compétent, a initié certaines des plaintes pour violation de la vie privée les plus importantes en UE. OpenAI fait face à la DSB (Autorité autrichienne de protection des données), dont le défi porte sur les « hallucinations », les réponses incorrectes que les grands modèles de langage (IA) ont tendance à fournir. Les mesures correctives demandées par l'ordre d'arbitrage incluent une enquête sur l'infraction, une décision déclaratoire, une amende et une étude des mesures correctives.

L'entreprise, OpenAI, serait au courant de la violation de la vie privée, mais cela n'a pas d'importance. Selon le communiqué de presse, la déclaration de Noyb figure dans un communiqué annonçant le dépôt de la plainte.

Les grands modèles, y compris ChatGPT, effectuent des calculs pour prédire les mots qui ont le plus de sens pour certaines sélections. Il arrive que le modèle sélectionne les mauvais mots en raison de son incapacité à remarquer le contexte, donnant ainsi une réponse erronée ou une « hallucination », terme jargon de l'industrie.

Cependant, cela ne va pas dans le sens des droits individuels dans les traditions de la « vie privée », donc pour Noyb. La réglementation européenne n'est pas allée assez loin pour énoncer le besoin d'exactitude des données personnelles depuis 1995, et le RGPD, la nouvelle loi européenne sur la vie privée, prend le devoir de protection précise des données personnelles.

Cibler les « hallucinations » de l'IA

Dans cette lignée, Noyb a souligné que les informations personnelles de tout commentateur public sans détails de date de naissance sont disponibles en ligne. ChatGPT a répondu par erreur avec leur date de naissance principale en raison d'une erreur dans la question.

OpenAI n'était pas non plus satisfait de leur réponse non sollicitée concernant l'accès et la suppression des données liées à l'enquête de demande menée en décembre 2023. Conformément au RGPD, les responsables du traitement doivent communiquer avec la personne concernée sur le traitement de ses données et supprimer les données de la personne sur demande, bien que des restrictions à la suppression soient autorisées.

Noyb, qui a agi en tant que plaignant dans l'affaire, a découvert que le service fournissait des données statistiques à l'utilisateur ; néanmoins, aucune information sur l'utilisation des données par le système n'a été fournie.

Gestion incorrecte des demandes de données

Comme l'a déclaré OpenAI, outre la transmission d'un message éducatif, ils ont promis de faire de leur mieux pour empêcher le modèle de donner l'année de naissance en réponse à la requête ; cependant, selon la plainte, ils ne peuvent pas corriger la réponse affichée incorrectement.

Cela a, à son tour, conduit à ce qu'une partie plus informative de la personne concernée soit bloquée par ChatGPT. Cela, dans son sens, entraverait le droit du public à l'information concernant cette personne – une figure connue – dont OpenAI avait été informée via une objection.

La réclamation indiquait : « Aucune action d'un chatbot ne peut corriger l'information, aucun filtre ne peut sélectionner de manière sélective, ou simplement qu'aucune personne concernée ne peut se conformer à cette situation selon le responsable du traitement. »

C'est la filiale irlandaise seule, et le siège social réside toujours aux États-Unis, a déclaré Noyb à la cheffe de la concurrence de l'UE, Margrethe Vestager. Ce défendeur a été nommé dans le procès car il s'agit d'une entité de la société américaine, OpenAI OpCo LLC, qui figure dans les conditions générales de l'entreprise.