ChatGPT continue de diffuser de fausses informations, selon l'autorité de protection des données de l'UE 

ChatGPT, le chatbot viral d'OpenAI, ne répond toujours pas aux normes de précision des données de l'Union européenne, selon un nouveau rapport du gendarme européen de la protection des données. 

À lire également : La loi européenne sur l’IA reçoit son approbation définitive, assortie d’amendes pouvant atteindre 38 millions de dollars.

Le rapport du Comité européen de la protection des données (CEPD) n'est pas un document juridique. Il contribuera toutefois à définir une approche commune pour la réglementation de ChatGPT dans les 27 États membres de l'UE.

ChatGPT ne respecte pas les normes de données

L'an dernier, les autorités nationales de surveillance ont créé le groupe de travail « ChatGPT » suite aux procédures judiciaires en cours dans plusieurs pays européens contre ce modèle d'intelligence artificielle. Ce groupe de travail relève du CEPD.

Dans un rapport publié le 24 mai, le groupe de travail a déclaré :

« Bien que les mesures prises pour se conformer au principe de transparence soient bénéfiques pour éviter toute mauvaise interprétation des résultats de ChatGPT, elles ne suffisent pas à se conformer au principe d’exactitude des données. »

Les grands modèles de langage, ou LLM, sont connus pour leurs « hallucinations » – un terme technique désignant le moment où les chatbots IA débitent des mensonges, souvent avec assurance.

Les chatbots comme ChatGPT ou Gemini de Google sont gérés par des LLM. En vertu du Règlement général sur la protection des données (RGPD) européen, les utilisateurs peuvent porter plainte s'ils sont mal représentés ou s'ils se voient refuser la possibilité de corriger des informations inexactes les concernant.

Selon le rapport du groupe de travail, « en raison de la nature probabiliste du système (d'IA), l'approche de formation actuelle conduit à un modèle qui peut également produire des résultats biaisés ou inventés »

« Les résultats fournis par ChatGPT sont susceptibles d’être considérés comme factuellement exacts par les utilisateurs finaux, y compris les informations relatives aux individus, quelle que soit leur exactitude réelle », a-t-il ajouté.

L'UE renforce son engagement en matière de conformité

OpenAI avait déjà invoqué la complexité technique pour justifier son incapacité à corriger les informations erronées, mais l'organisme de surveillance de l'Union européenne campe sur ses positions.

« En particulier, l’impossibilité technique ne peut être invoquée pour justifier le non-respect de ces exigences », a souligné le groupe de travail.

Dans une affaire récemment ouverte, une personnalité publique autrichienne poursuit ChatGPT pour ne pas avoir corrigé sa date de naissance. OpenAI a déclaré que cela serait techniquement impossible, mais ce nouveau rapport risque d'accroître la pression sur le modèle d'IA.

Maartje de Graaf, avocate spécialisée dans la protection des données et impliquée dans l'affaire, a déclaré que les entreprises sont actuellement incapables de rendre les chatbots IA conformes à la législation européenne lors du traitement des données concernant des individus.

« Si un système ne peut pas produire des résultats précis et transparents, il ne peut pas être utilisé pour générer des données sur les individus. La technologie doit se conformer aux exigences légales, et non l'inverse », a déclaré de Graaf.

Des problèmes de sécurité planent sur OpenAI

Les experts affirment que ChatGPT devra procéder à des changements ambitieux pour éviter d'enfreindre le RGPD, qui réglemente la protection des données dans l'Union européenne.

Ces règles constituent également un modèle opérationnel pour les lois sur les données en Argentine, au Brésil, au Chili, au Japon, au Kenya, à Maurice, en Afrique du Sud, en Corée du Sud, en Turquie et au Royaume-Uni.

À lire également : OpenAI abandonne ChatGPT Voice après la polémique avec Scarlett Johansson

Parallèlement, l'engagement d'OpenAI en matière de sécurité des utilisateurs est remis en question.

L'entreprise a été frappée par une vague de démissions très médiatisées, avec le départ du cofondateur Ilya Sutskever, de Gretchen Krueger, de Jan Leike et d'une demi-douzaine d'autres personnes, plaidant en faveur d'un changement de culture.

Plus tôt cette semaine, OpenAI a annoncé la suspension de la voix ChatGPT « Sky » suite à des inquiétudes concernant sa ressemblance avec la voix de l'actrice Scarlett Johansson dans le film Her, qui traite de l'intelligence artificielle.

Reportage Cryptopolitan de Jeffrey Gogo