Les dangers de « ghiblifier » votre selfie avec ChatGPT

Depuis plus d'une semaine, les serveurs d'OpenAI sont saturés par les utilisateurs qui utilisent la dernière mise à jour de ChatGPT, un outil de génération d'images ayant engendré une véritable obsession sur Internet : transformer les selfies en illustrations dignes du Studio Ghibli. 

Instagram, Reddit, Discord, Facebook, X, partout, les portraits de couples, de maisons, de souvenirs de vacances et même d'événements historiques, générés par IA, sont omniprésents. Mais une fois l'effet Ghibli passé, est-il prudent de « ghiblir » ses photos ? Certains analystes répondent par la négative. 

Des inquiétudes sérieuses subsistent quant à la violation des droits d'auteur, la confidentialité des données et l'éthique de l'IA chez ChatGPT, mais concernant Ghibli, le problème principal réside dans les pratiques de sécurité des données. 

Sam Altman et son équipe restent très discrets sur la manière dont ils ont entraîné le chatbot à produire des images d'une telle netteté en quelques minutes seulement. Des experts en protection de la vie privée alertent sur le fait que des millions de personnes confient sans le savoir leurs données biométriques à OpenAI, une entreprise déjà pointée du doigt pour ses pratiques en matière de données.

Tout le monde utilise les illustrations Ghibli de ChatGPT, donc c'est sans risque, non ?

La semaine dernière, OpenAI a étendu les capacités de génération d'images de ChatGPT, permettant aux utilisateurs de créer des images dans une variété de styles artistiques. Le filtre inspiré des films Ghibli, qui transforme les photos et selfies ordinaires en illustrations de style anime, a rapidement suscité un vif intérêt chez les internautes. 

Le PDG d'OpenAI, Sam Altman, le patron de Tesla, Elon Musk, Ripple les dirigeants de publié leurs propres versions d'images de style Ghibli sur les réseaux sociaux, donc tout le monde peut sans doute affirmer que c'est sans danger. 

Altman a affirmé que les demandes artistiques de Ghibli avaient fortement sollicité les ressources informatiques de l'entreprise, admettant dans un message publié le 27 mars sur X que les GPU d'OpenAI étaient « en train de fondre » sous la demande.

C'est super de voir que les gens apprécient les images sur chatgpt.

Mais nos GPU sont surchargés.

Nous allons donc temporairement limiter le nombre de requêtes le temps d'améliorer le système. On espère que ce sera bientôt terminé !

La version gratuite de chatgpt bénéficiera bientôt de 3 générations par jour.

— Sam Altman (@sama) 27 mars 2025

L'entreprise a révélé que le phénomène Ghibli aurait généré à lui seul un million de nouvelles inscriptions. Cet engouement est précisément ce qu'espère OpenAI : plus d'utilisateurs signifie plus de données, ce qui, en fin de compte, profite à l'entraînement de leurs IA. Est-ce au détriment des données personnelles ? Difficile de répondre par l'affirmative, mais nous ne sommes évidemment pas assez naïfs pour dire le contraire.

Certains internautes se sont essayés à la reconstitution d'événements historiques dans le style des films Ghibli, comme l'assassinat de John F. Kennedy et les attentats du 11 septembre. Même la Maison-Blanche s'y est mise, en publiant une version générée par intelligence artificielle d'une image célèbre montrant une femme en pleurs arrêtée par un agent de l'ICE. 

https://t.co/PVdINmsHXs pic.twitter.com/Bw5YUCI2xL

— La Maison Blanche (@WhiteHouse) 27 mars 2025

C'est une tendance amusante, et nous n'allons pas l'étouffer dans l'œuf alors que tout le monde cherche une raison de sourire. Mais modifier et styliser des images historiques, c'est ouvrir la porte à des suprémacistes déchaînés et à des œuvres d'art vulgaires.  

L'art généré par l'IA est-il éthique ?

Les modèles d'IA sont entraînés sur d'immenses quantités de données collectées sur Internet, y compris des œuvres defipar le droit d'auteur. La plus grande crainte des artistes et créateurs est que l'IA finisse par les remplacer. Si un modèle parvient à produire un résultat similaire à celui d'un créateur après avoir obtenu illégalement une copie de son œuvre, la situation deviendra catastrophique.

« Les auteurs et les artistes sont de plus en plus en colère face aux vols à grande échelle qui se produisent », a souligné Ed Newton-Rex, PDG de Fairly Trained, une société de formation en intelligence artificielle à but non lucratif.

Le studio Ghibli n'a jamais autorisé l'utilisation de son style artistique pour du contenu généré par l'IA, étant donné le mépris bien documenté du cofondateur Hayao Miyazaki pour l'IA dans l'art. 

Dans une interview de 2016 désormais célèbre, Miyazaki a réagi avec dégoût à l'animation générée par l'IA, déclarant : « Celui qui crée ces choses n'a aucune idée de ce qu'est la douleur. Je suis profondément dégoûté… J'aitronferme conviction que c'est une insulte à la vie elle-même. »

La tendance inspirée par Ghibli correspond précisément au type de marchandisation artistique pilotée par l'IA qu'il abhorrait. Alors pourquoi OpenAI semble-t-elle si laxiste quant à sa politique de génération d'images dans des styles artistiques ? Elle ouvre tout simplement la voie à la création par l'IA de recréations d'œuvres protégées par le droit d'auteur.

Risques pour la vie privée liés à la « ghiblification » de votre selfie

Avant de recevoir votre selfie « Ghiblifié », vous devez télécharger vos photos personnelles sur ChatGPT. Avez-vous pensé qu'en autorisant involontairement OpenAI à utiliser ces images pour l'entraînement de futurs modèles ? Si tel est le cas, existe-t-il un moyen explicite de s'y opposer ? Il est fort probable que la plupart des gens y aient pensé.

Rachel Tobac, PDG de SocialProof Security, a déclaré que la plupart des gens pensent que leurs images téléchargées disparaissent après utilisation, mais que ChatGPT pourrait au contraire les conserver et les intégrer à de futurs modèles d'IA. « Si vous souhaitez conserver la propriété d'une photo, la transformer en Ghibli n'est pas la solution », a-t-elle conclu.

Le 29 mars, via un fil de discussion, Luiza Jarovsky, cofondatrice d'aitechprivacy.com, a expliqué qu'en vertu des lois européennes sur les données (plus précisément l'article 6.1.a du RGPD), les utilisateurs qui téléchargent volontairement leurs images donnent leur consentement légal à OpenAI pour qu'il les traite. 

« Des milliers de personnes téléchargent désormais volontairement leurs visages et leurs photos personnelles sur ChatGPT. De ce fait, OpenAI bénéficie d'un accès gratuit et facile à des milliers de nouveaux visages pour entraîner ses modèles d'IA », a-t-elle écrit.

OpenAI n'a pas encore publié de déclaration officielle concernant les préoccupations liées à la protection de la vie privée, mais insiste sur le fait que la confidentialité et la sécurité figurent parmi ses priorités absolues. Lundi, un porte-parole de l'entreprise a déclaré qu'OpenAI minimise la collecte d'informations personnelles et ne recherche pas de données privées d'utilisateurs pour entraîner ses modèles. 

Ils ont également affirmé que les utilisateurs peuvent contrôler l'utilisation de leurs données grâce à des outils en libre-service, et qu'ils peuvent supprimer leur contenu ou refuser les améliorations du modèle.

Collecte de données : vrai ou faux ?

Certains internautes estiment que la tendance Ghibli est « l'un des systèmes de collecte de données faciales les plus vastes et les plus dissimulés jamais mis en place ». Un autre a averti que des milliards de personnes s'étaient « connectées à leurs comptes sans le savoir, livrant ainsi involontairement leurs données de reconnaissance faciale à des systèmes d'intelligence artificielle »

Comment est-il possible que les gens ne s'en rendent pas compte ?
Ils sont tout simplement pris au piège d'une mode, cédant leurs données de reconnaissance faciale à l'IA sans même penser aux conséquences néfastes que cela peut avoir, et ils se plaignent constamment du respect de leur vie privée.

— विक्रमादित्य शिवम चौहान (@chau_vik1947) 2 avril 2025

Cependant, cette inquiétude n'est pas partagée par tous. Un ingénieur en cybersécurité chez X a réfuté ces craintes, affirmant que les modèles d'IA ne stockent pas les données d'image au-delà du processus de transformation immédiat. 

« À l’heure actuelle, l’IA ne stocke pas les données des images ; les images que nous utilisons pour Ghibli ou toute autre transformation sont donc en sécurité », ont-ils écrit. Ils ont recommandé de vider le cache par mesure de précaution supplémentaire, mais ont réfuté les affirmations selon lesquelles l’IA pourrait reconstituer les images dans leur forme originale pour les utiliser dans ses exercices d’apprentissage.

L'IA ne stocke pas encore les données des images, donc les images utilisées pour les transformations Ghibli ou autres sont en sécurité.

Par précaution, videz tout de même le cache.

J'ai également vu plusieurs vidéos indiquant qu'il est possible d'inverser les images, donc aucune IA ne peut remplacer les images Ghibli par les images originales. #Ghibli pic.twitter.com/fd0k9zVLqR

— Juhi (@juhijain199) 2 avril 2025

D'autres théoriciens affirment que la génération d'images par IA n'est pas plus intrusive que les services de stockage cloud existants. « C'est amusant de voir comment certains s'inquiètent de l'utilisation abusive de nos données par Ghibli, comme si le stockage cloud qui contient toutes nos photos était plus sûr. MDR », a commenté un utilisateur.

La tendance des selfies « Ghiblifiés » cache, sous une apparente simplicité, de sérieuses inquiétudes quant au respect du droit d'auteur, à l'éthique de l'IA et à la protection des données. Si ChatGPT conserve des photos et des informations partagées par les utilisateurs, une simple faille de sécurité et un logiciel de retouche d'images suffisent pour que votre vie privée soit exposée au grand jour sur Internet.

L'engouement pour l'art animé généré par l'IA justifie-t-il le coût de vos données personnelles ? Peut-être, mais il est beaucoup plus prudent de bien réfléchir avant de partager des informations avec un chatbot.