DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

Les dangers de « Ghiblifier » votre selfie avec ChatGPT

ParFlorence MuchaiFlorence Muchai 5 min de lecture
Les dangers de « Ghiblifier » votre selfie avec ChatGPT
  • La tendance virale des selfies au style Ghibli d’OpenAI est amusante, mais les experts mettent en garde contre les risques de collecte de données et les problèmes de droits d’auteur.
  • Des millions de personnes remettent inconsciemment leurs données biométriques à OpenAI. Les analystes affirment que ChatGPT pourrait conserver les images pour l’entraînement de l’IA.
  • Studio Ghibli n’a jamais approuvé les recréations par IA, et Miyazaki lui-même a condamné l’art généré par intelligence artificielle. 

Depuis plus d'une semaine, les utilisateurs saturent les serveurs d'OpenAI pour utiliser sa dernière mise à jour de ChatGPT qui présentait un outil de génération d'images ayant engendré une obsession sur Internet ; transformant les selfies en illustrations au style Studio Ghibli. 

Instagram, Reddit, Discord, Facebook, X, partout est inondé de portraits générés par l'IA de couples, de maisons, de souvenirs de vacances et même d'événements historiques. Mais une fois le plaisir passé, est-il sûr de « Ghiblifier » vos photos ? Certains analystes vous disent non. 

Il existe de sérieuses préoccupations concernant l'violation du droit d'auteur de ChatGPT, la confidentialité des données et l'éthique de l'IA, mais avec Ghibli, il y a un problème principal : les pratiques de sécurité des données.

Sam Altman et son équipe sont plutôt discrets sur la façon dont ils ont entraîné le chatbot pour produire des images aussi propres, et ce en quelques minutes. Les experts en confidentialité avertissent que des millions de personnes remettent inconsciemment leurs données biométriques à OpenAI, une entreprise qui a déjà été critiquée pour ses pratiques en matière de données.

Tout le monde utilise l'art Ghibli de ChatGPT, donc c'est sûr, non ?

La semaine dernière, OpenAI a étendu ses capacités de génération d'images dans ChatGPT, permettant aux utilisateurs de créer des images dans une variété de styles artistiques. Ce à quoi les internautes ont rapidement adhéré était le filtre au style Ghibli, qui générait des photos ordinaires et des selfies en illustrations de type anime. 

Le PDG d'OpenAI Sam Altman, le chef de Tesla Elon Musk, les dirigeants de Ripple Lab et plusieurs cadres ont publié leurs propres versions d'images au style Ghibli sur les réseaux sociaux, de sorte que chacun peut arguer que c'est sûr.

Altman a affirmé que les invites d'art Ghibli ont fortement sollicité les ressources informatiques de l'entreprise, admettant dans un post du 27 mars sur X que les GPU d'OpenAI « fondent » sous la demande.

L'entreprise a révélé que la tendance Ghibli à elle seule aurait ajouté 1 million de nouveaux inscrits. Cette explosion d'intérêt est exactement ce qu'OpenAI espère : plus d'utilisateurs signifie plus de données, ce qui profite in fine à leur entraînement d'IA. Est-ce au détriment des données personnelles ? Eh bien, il est difficile de dire oui, mais nous sommes évidemment pas assez naïfs pour dire non.

Certains utilisateurs ont expérimenté des recréations au style Ghibli de moments historiques, tels que l'assassinat de John F. Kennedy et les attentats terroristes du 11 septembre. Même la Maison Blanche s'est impliquée, publiant une version générée par l'IA d'une image bien connue d'une femme pleurant arrêtée par un agent de l'ICE. 

C'est une tendance amusante, et nous ne serons pas ceux à éteindre le feu quand tout le monde cherche une raison de sourire. Mais altérer et styliser des images historiques est une pente glissante qui ouvre la grande porte aux tendances supremacistes incontrôlées et au développement d'œuvres d'art vulgaires.  

L'art généré par l'IA est-il éthique ?

Les modèles d'IA sont entraînés sur d'énormes quantités de données extraites d'Internet, et cela inclut certainement les œuvres protégées par le droit d'auteur. La plus grande inquiétude des artistes et des créateurs est que l'IA prendra la place de leurs emplois. Si un modèle peut produire un résultat similaire à celui d'un créateur après avoir obtenu illégalement une copie de son travail, tout s'emballe à partir de là.

« Les auteurs et les artistes sont de plus en plus en colère face au vol à grande échelle qui se produit », a déclaré Ed Newton-Rex, PDG de l'entreprise à but non lucratif Fairly Trained, spécialisée dans l'entraînement des IA.

Studio Ghibli n'a jamais autorisé l'utilisation de son style artistique pour le contenu généré par l'IA, compte tenu du mépris bien documenté de son co-fondateur Hayao Miyazaki pour l'IA dans l'art. 

Lors d'une interview devenue célèbre en 2016, Miyazaki a réagi avec dégoût à l'animation générée par l'IA, déclarant : « Celui qui crée ce genre de choses n'a aucune idée de ce qu'est la souffrance. Je suis totalement dégoûté… Je ressens fortement que c'est une insulte à la vie elle-même. »

La tendance au style Ghibli est précisément le type de marchandisation artistique pilotée par l'IA qu'il détestait. Alors, pourquoi OpenAI semble-t-il si détendu dans ses politiques concernant la génération d'images dans des styles artistiques ? Ils ouvrent simplement les vannes aux recréations par IA d'œuvres protégées par le droit d'auteur.

Risques pour la vie privée liés au « Ghiblification » de votre selfie

Avant d'obtenir un selfie Ghiblifié, vous devez télécharger lesdites photos personnelles sur ChatGPT. Avez-vous envisagé que vous pourriez, sans le savoir, donner à OpenAI le droit d'utiliser ces images pour l'entraînement futur de ses modèles ? Si tel est le cas, existe-t-il un moyen explicite de se désinscrire ? On doute fort que la plupart des personnes aient réfléchi à tout cela.

Rachel Tobac, PDG de SocialProof Security, a déclaré que la plupart des gens pourraient supposer que leurs images téléchargées disparaissent après utilisation, mais ChatGPT pourrait plutôt les conserver et les intégrer dans de futurs modèles d'IA. « Si vous souhaitez conserver la propriété d'une photo, la Ghiblifier n'est pas la bonne méthode », a-t-elle conclu.

Le 29 mars, via un fil de discussion sur X, Luiza Jarovsky, cofondatrice de aitechprivacy.com, a expliqué que conformément aux lois européennes sur les données (spécifiquement l'article 6.1.a du RGPD), les utilisateurs qui téléchargent volontairement leurs images donnent leur consentement légal pour qu'OpenAI les traite.

« Des milliers de personnes téléchargent désormais volontairement leurs visages et photos personnelles sur ChatGPT. Par conséquent, OpenAI obtient un accès gratuit et facile à de nombreux nouveaux visages pour entraîner ses modèles d'IA », a-t-elle écrit.

OpenAI n'a pas encore fait de déclaration officielle abordant les préoccupations en matière de confidentialité, mais insiste sur le fait que la confidentialité et la sécurité sont parmi ses priorités absolues. Lundi, un porte-parole de l'entreprise a déclaré qu'OpenAI minimise la collecte d'informations personnelles et ne cherche pas activement des données utilisateur privées pour entraîner ses modèles. 

Ils ont également affirmé que les utilisateurs peuvent contrôler l'utilisation de leurs données grâce à des outils d'auto-service, et peuvent supprimer leur contenu ou se désinscrire des améliorations des modèles.

Collecte de données : est-ce vrai ou faux ?

Certains internautes estiment que la tendance Ghibli est « l'un des schemes de collecte de données faciales les plus vastes et les plus discrets jamais vus ». Un autre a mis en garde contre le fait que des milliards de personnes s'étaient « involontairement connectées à leurs comptes, cédant sans le vouloir leurs données de reconnaissance faciale à des systèmes pilotés par l'IA ».

Cependant, tout le monde ne partage pas cette inquiétude. Un ingénieur en cybersécurité sur X a contesté ces craintes, affirmant que les modèles d'IA ne stockent pas les données d'image au-delà du processus de transformation immédiat. 

« L'IA ne stocke pas les informations sur les données d'image pour le moment, donc les photos que nous utilisons pour Ghibli ou toute autre transformation sont SÛRES », ont-ils écrit. Ils ont recommandé de vider le cache des fichiers comme précaution supplémentaire, mais ont réfuté les affirmations selon lesquelles l'IA pourrait inverser l'ingénierie des images pour les ramener à leur forme originale afin de les utiliser dans l'une de ses pratiques d'entraînement.

D'autres théoriciens estiment que la génération d'images par IA n'est pas plus invasive que les services de stockage cloud existants. « Drôle de façon de s'inquiéter que Ghibli abuse de nos données, comme si le stockage cloud contenant toutes nos photos était plus sûr. Lol », a commenté un utilisateur.

La tendance des selfies « Ghiblifiés » est, sous sa surface, une bulle de préoccupations concernant les violations du droit d'auteur, l'éthique de l'IA et la confidentialité des données. Si ChatGPT conserve l'une des photos et informations partagées par les utilisateurs, il suffit d'une seule brèche de serveur et d'un logiciel de retournement d'image pour que votre vie privée soit exposée sur Internet.

La frénésie de l'art généré par l'IA animé vaut-elle le coût de vos données personnelles ? Peut-être oui, mais il est beaucoup plus sûr de réfléchir à deux fois avant de partager quoi que ce soit avec un chatbot.

Partager cet article

Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.

Florence Muchai

Florence Muchai

Florence couvre depuis 6 ans l'actualité crypto, du jeu vidéo, de la technologie et de l'IA. Ses études en informatique à l'Université de sciences et technologies de Meru et sa formation en gestion des catastrophes et en diplomatie internationale à l'MMUST lui ont amplement permis de développer des compétences linguistiques, d'observation et techniques. Florence a travaillé au sein du groupe VAP et en tant qu'éditrice pour plusieurs médias spécialisés dans la crypto.

PLUS D'ACTUALITÉS…