Depuis plus d'une semaine maintenant, les utilisateurs ont obstrué les serveurs d'Openai pour utiliser sa dernière mise à jour Chatgpt qui comportait un outil de génération d'image qui a donné naissance à une obsession d'Internet; Transforme les selfies en illustrations de style Ghibli-Studio.
Instagram, Reddit, Discord, Facebook, X, partout est inondé de portraits générés par l'AI-Couples, des maisons, des souvenirs de vacances et même des événements historiques. Mais quand tout le plaisir est arrivé, est-il sûr de «ghiblifier» vos photos? Certains analystes vous disent non.
Il y a de sérieuses préoccupations concernant la violation du droit d'auteur , la confidentialité des données et l'éthique de l'IA, mais avec Ghibli, il y a un problème principal: les pratiques de sécurité des données.
Sam Altman et son équipe sont plutôt serrés sur la façon dont ils ont entraîné le chatbot pour produire les images si proprement et en quelques minutes. Les experts en matière de confidentialité avertissent que des millions de personnes remettent sans le savoir leurs données biométriques à Openai, une entreprise qui a déjà été appelée pour ses pratiques de données.
Tout le monde utilise l'art de Chatgpt Ghibli, donc c'est sûr, non?
La semaine dernière, OpenAI a élargi ses capacités de génération d'images dans Chatgpt, permettant aux utilisateurs de créer des images dans une variété de styles artistiques. Les internautes ont rapidement sauté dans le filtre de style Ghibli-, qui a généré des photos et des selfies ordinaires en illustrations en forme d'anime.
Le PDG d'Openai, Sam Altman, Tesla Head Elon Musk, les hauts-ups de Ripple publié leurs propres versions d'images de style Ghibli-sur les réseaux sociaux, afin que tout le monde puisse sans doute dire que c'est sûr.
Altman a affirmé que les invites à l'art de Ghibli ont frappé dur les ressources informatiques de l'entreprise, admettant dans un article du 27 mars sur X que les GPU d'Openai «fondaient» sous la demande.
C'est super amusant de voir que les gens aiment les images dans Chatgpt.
—Sam Altman (@sama) 27 mars 2025
Mais nos GPU fondent.
Nous allons introduire temporairement certaines limites de taux pendant que nous travaillons à la rendre plus efficace. Espérons ne sera pas long!
Le niveau gratuit de Chatgpt obtiendra bientôt 3 générations par jour.
La société a révélé que la tendance de Ghibli aurait ajouté à elle seule 1 million de nouvelles inscriptions. Cette explosion d'intérêt est exactement ce que OpenAI espère: plus d'utilisateurs signifie plus de données, ce qui profite finalement à leur formation en IA. Est-ce au détriment des données personnelles? Eh bien, il est difficile de dire oui, mais nous ne sommes évidemment pas assez naïfs pour dire non.
Certains utilisateurs ont expérimenté les recréations de style ghibli-moments historiques, tels que l'assassinat de John F. Kennedy et l'attaque terroriste du 11 septembre. Même la Maison Blanche s'est impliquée, affichant une version générée par l'IA d'une image bien connue d'une femme qui pleure arrêtée par un officier de glace.
https://t.co/pvdinmshxs pic.twitter.com/bw5yuci2xl
- La Maison Blanche (@whitehouse) 27 mars 2025
C'est une tendance amusante, et nous n'allons pas être eux pour éteindre le feu lorsque tout le monde cherche une raison de sourire. Mais modifier et styliser l'imagerie historique est une pente glissante pour ouvrir les vannes pour les suprémacistes non contrôlés et les tendances de développement des œuvres d'art vulgaires.
L'art généré par l'IA est-il éthique?
Les modèles d'IA sont formés sur de grandes quantités de données grattées d'Internet, et qui inclut le plus defiles œuvres protégées par le droit d'auteur. La plus grande inquiétude pour les artistes et les créateurs est que l'IA reprendra leur travail. Si un modèle peut produire une sortie similaire à celle d'un créateur après avoir obtenu illégalement une copie du travail qu'il fait, tout est en descente à partir de là.
«Les auteurs et les artistes se mettent de plus en plus en colère contre le vol à grande échelle qui se produit», a fait signe à Ed Newton-Rex, PDG de la société de formation AI à but non lucratif assez formé.
Studio Ghibli n'a jamais autorisé l'utilisation de son style artistique pour le contenu généré par l'AI, étant donné le dédain bien documenté du co-fondateur Hayao Miyazaki pour l'IA dans l'art.
Dans une interview désormais célèbre de 2016, Miyazaki a réagi avec une animation générée par l'AI avec dégoût, en disant: «Celui quitronce truc n'a aucune idée de la douleur.
La tendance de style Ghibli-est précisément le type de marchandisation artistique basée sur l'IA qu'il détestait. Alors pourquoi OpenAI semble-t-il détendu dans ses politiques concernant la génération d'images dans des styles artistiques? Ils ouvrent simplement les vannes pour les recréations de l'IA d'œuvres protégées par le droit d'auteur.
Risques de confidentialité de «ghiblification» votre selfie
Avant d'obtenir un selfie ghiblifié, vous devez télécharger lesdites photos personnelles sur Chatgpt. Avez-vous considéré que vous pourriez donner sans le savoir Openai le droit d'utiliser les deux images pour une future formation de modèle? Si tel est le cas, existe-t-il un moyen explicite de se retirer? Doute que la plupart des gens pensaient à tout cela.
Rachel Tobac, PDG de Socialof Security, a déclaré que la plupart des gens peuvent supposer que leurs images téléchargées disparaissent après utilisation, mais Chatgpt pourrait plutôt les conserver et les incorporer dans les futurs modèles d'IA. "Si vous voulez conserver la propriété d'une photo, ce n'est pas la voie à suivre", a-t-elle supposé.
Le 29 mars, via un fil , Luiza Jarovsky, co-fondatrice d'AitechPrivacy.com, a expliqué que, en vertu des lois européennes des données (en particulier l'article 6.1.A du RGPD), les utilisateurs qui téléchargent volontairement leurs images donnent un consentement légal pour OpenAI pour les traiter.
"Des milliers de personnes téléchargent désormais volontairement leurs visages et leurs photos personnelles à Chatgpt. En conséquence, Openai accédente libre et facile à plusieurs milliers de nouveaux visages pour former ses modèles d'IA", a-t-elle écrit.
OpenAI n'a pas encore fait de déclaration officielle concernant les problèmes de confidentialité, mais insiste sur le fait que la confidentialité et la sécurité sont parmi ses principales priorités. Lundi, un porte-parole de l'entreprise a déclaré qu'Openai minimise la collecte d'informations personnelles et ne cherche pas de données d'utilisateurs privés pour former ses modèles.
Ils ont également affirmé que les utilisateurs pouvaient contrôler la façon dont leurs données sont utilisées via des outils en libre-service et peuvent supprimer leur contenu ou se retirer des améliorations du modèle.
Collecte de données: est-ce vrai ou faux?
Certains internautes pensent que la tendance de Ghibli est «l'un des schémas de collecte de données faciaux les plus importants et les plus secrètes de tous les temps». Un autre a averti que des milliards de personnes s'étaient «connectées sans le savoir dans leurs comptes, rendant involontairement leurs données de reconnaissance faciale aux systèmes dirigés par l'IA».
Exactement, comment les gens ne réalisent pas cela?
- विक्रमादित्य शिवम चौहान (@ Chau_vik1947) 2 avril 2025
Ils sont juste piégés dans le nom d'une tendance abandonnant leurs données de reconnaissance faciale à l'IA sans même penser à ce que cela peut entraîner et ils pleurent sur la vie privée tous les deux jours.
Pourtant, tout le monde ne partage pas cette préoccupation. Un cyber ingénieur sur X a repoussé les peurs, affirmant que les modèles d'IA ne stockent pas les données d'image au-delà du processus de transformation immédiate.
"L'IA ne stockait pas les informations sur les données d'image à ce jour, donc les images que nous utilisons pour Ghibli ou toute autre transformation sont sûres", ont-ils écrit. Ils ont recommandé de compenser les fichiers de cache par précaution supplémentaire, mais ont réfuté les affirmations selon lesquelles l'IA pouvait retourner les images des ingénieurs à leur forme d'origine pour les utiliser dans l'une de ses pratiques de formation.
L'IA ne stocke pas les informations sur les données d'image à ce jour afin que les images que nous utilisons pour Ghibli ou toute autre transformation soient sûres.
- Juhi Jain (@ Juhijain199) 2 avril 2025
Effacez toujours le cache pour le côté plus sûr.
J'ai également vu de nombreux bobines disant que nous pouvons inverser les images afin qu'aucune IA ne change de ghibli en image originale. #Ghibli pic.twitter.com/fd0k9zvlqr
D'autres théoriciens disent que la génération d'images AI n'est pas plus invasive que les services de stockage cloud existants. "C'est drôle comme les gens s'inquiètent de Ghibli qui abusent de nos données, comme si le stockage cloud tenant toutes nos photos est plus sûr. LOL", a commenté un utilisateur.
La tendance des selfies «ghiblifiée» est, sous la surface, une bulle de préoccupations concernant la violation du droit d'auteur, l'éthique de l'IA et la confidentialité des données. Si Chatgpt conserve l'une des photos et des informations partagées par les utilisateurs, il ne suffit qu'une seule violation de serveur et un logiciel d'inversion d'image pour que votre vie personnelle soit diffusée sur Internet.
La frénésie de l'art animé généré par l'IA vaut-elle le coût de vos données personnelles? Peut-être oui, mais c'est beaucoup plus sûr de réfléchir à deux fois ce que vous partagez avec n'importe quel chatbot.
