Die Gefahren der „Ghiblifizierung“ Ihres Selfies mit ChatGPT

Seit über einer Woche überlasten Nutzer die Server von OpenAI mit dem neuesten ChatGPT-Update, das ein Bildgenerierungstool enthielt, das eine Internet-Obsession auslöste: Selfies in Illustrationen im Studio-Ghibli-Stil zu verwandeln. 

Instagram, Reddit, Discord, Facebook, X – überall wimmelt es von KI-generierten Porträts von Paaren, Häusern, Urlaubserinnerungen und sogar historischen Ereignissen. Doch wenn der Spaß vorbei ist, ist es dann noch sicher, seine Fotos im Ghibl-Stil zu bearbeiten? Einige Experten raten davon ab. 

bei ChatGPT Urheberrechtsverletzungen, aber bei Ghibli gibt es ein Hauptproblem: die Datensicherheitspraktiken. 

Sam Altman und sein Team halten sich bedeckt, wie sie den Chatbot so trainiert haben, dass er die Bilder so präzise und innerhalb weniger Minuten erzeugen kann. Datenschützer warnen davor, dass Millionen von Menschen unwissentlich ihre biometrischen Daten an OpenAI weitergeben, ein Unternehmen, das bereits wegen seiner Datenpraktiken in der Kritik steht.

Alle verwenden ChatGPT Ghibli-Kunst, also ist es sicher, oder?

Letzte Woche erweiterte OpenAI die Bildgenerierungsfunktionen von ChatGPT, sodass Nutzer nun Bilder in verschiedenen künstlerischen Stilen erstellen können. Besonders beliebt war der Ghibli-Filter, der gewöhnliche Fotos und Selfies in Anime-ähnliche Illustrationen verwandelte. 

OpenAI-CEO Sam Altman, Tesla-Chef Elon Musk, Ripple hochrangige Mitarbeiter von veröffentlicht ihre eigenen Versionen von Bildern im Ghibli-Stil in den sozialen Medien 

Altman behauptete, die Ghibli-Kunst-Aufgaben hätten die Rechenressourcen des Unternehmens stark beansprucht, und räumte in einem Beitrag vom 27. März auf X ein, dass die GPUs von OpenAI unter der Nachfrage „schmolzen“.

Es ist super, dass die Leute Bilder in ChatGPT so lieben.

Aber unsere GPUs glühen.

Wir werden daher vorübergehend die Datenrate begrenzen, während wir an einer effizienteren Lösung arbeiten. Hoffentlich dauert es nicht lange!

ChatGPT Free wird bald drei Generationen pro Tag erhalten.

— Sam Altman (@sama) 27. März 2025

Das Unternehmen gab bekannt, dass allein der Ghibli-Trend angeblich eine Million neue Anmeldungen generiert hat. Dieses explosionsartige Interesse ist genau das, was OpenAI sich erhofft: Mehr Nutzer bedeuten mehr Daten, was letztendlich dem KI-Training zugutekommt. Geht das auf Kosten personenbezogener Daten? Nun, eine Ja-Antwort ist schwierig, aber wir sind offensichtlich nicht so naiv, Nein zu sagen.

Einige Nutzer experimentierten mit Ghibli-artigen Nachstellungen historischer Ereignisse, wie der Ermordung von John F. Kennedy und den Terroranschlägen vom 11. September. Sogar das Weiße Haus beteiligte sich und veröffentlichte eine KI-generierte Version eines bekannten Bildes einer weinenden Frau, die von einem ICE-Beamten festgenommen wird. 

https://t.co/PVdINmsHXs pic.twitter.com/Bw5YUCI2xL

— Das Weiße Haus (@WhiteHouse) 27. März 2025

Es ist ein unterhaltsamer Trend, und wir werden nicht diejenigen sein, die ihn unterdrücken, wenn doch jeder nach einem Grund zum Lächeln sucht. Doch die Veränderung und Neugestaltung historischer Bilder birgt die Gefahr, ungezügelten Nationalismus und vulgären künstlerischen Tendenzen Tür und Tor zu öffnen.  

Ist KI-generierte Kunst ethisch vertretbar?

KI-Modelle werden mit riesigen Datenmengen trainiert, die aus dem Internet gesammelt werden, und dazu gehören mit ziemlicher defiauch urheberrechtlich geschützte Werke. Die größte Sorge von Künstlern und Kreativen ist, dass KI ihre Arbeit übernimmt. Wenn ein Modell nach illegaler Beschaffung einer Kopie des Werkes eines Urhebers ein Ergebnis erzeugen kann, das dessen Werk ähnelt, geht es nur noch bergab.

„Autoren und Künstler sind zunehmend verärgert über den massenhaften Diebstahl, der hier stattfindet“, sagte Ed Newton-Rex, CEO des gemeinnützigen KI-Schulungsunternehmens Fairly Trained.

Studio Ghibli hat die Verwendung seines künstlerischen Stils für KI-generierte Inhalte nie genehmigt, da Mitbegründer Hayao Miyazaki bekanntermaßen eine Abneigung gegen KI in der Kunst hegt. 

In einem mittlerweile berühmten Interview aus dem Jahr 2016 reagierte Miyazaki mit Abscheu auf KI-generierte Animationen und sagte: „Wer auch immer so etwas erschafft, hat absolut keine Ahnung, was Schmerz ist. Ich bin zutiefst angewidert… Ich bin dertronÜberzeugung, dass dies eine Beleidigung des Lebens selbst ist.“

Der Ghibli-artige Trend ist genau die Art von KI-gesteuerter Kunstkommerzialisierung, die er verabscheute. Warum also scheint OpenAI in seinen Richtlinien zur Bildgenerierung in künstlerischen Stilen so nachlässig zu sein? Sie öffnen damit Tür und Tor für KI-gestützte Reproduktionen urheberrechtlich geschützter Werke.

Datenschutzrisiken beim „Ghiblifizieren“ Ihres Selfies

Bevor du ein Ghibli-Selfie erhältst, musst du die entsprechenden Fotos auf ChatGPT hochladen. Hast du bedacht, dass du OpenAI damit möglicherweise unwissentlich die Erlaubnis erteilst, beide Bilder für das zukünftige Training von Modellen zu verwenden? Gibt es in diesem Fall eine Möglichkeit, dies zu deaktivieren? Die meisten Nutzer haben sich darüber wohl schon Gedanken gemacht.

Rachel Tobac, CEO von SocialProof Security, erklärte, die meisten Nutzer gingen wohl davon aus, dass hochgeladene Bilder nach der Verwendung verschwinden. ChatGPT hingegen könnte sie speichern und in zukünftige KI-Modelle integrieren. „Wer die Eigentumsrechte an einem Foto behalten möchte, sollte es nicht wie Ghibl bearbeiten“, schlussfolgerte sie.

Am 29. März Threaderklärte Luiza Jarovsky, Mitbegründerin von aitechprivacy.com, 

„Tausende von Menschen laden jetzt freiwillig ihre Gesichter und persönlichen Fotos auf ChatGPT hoch. Dadurch erhält OpenAI kostenlosen und einfachen Zugriff auf viele Tausend neue Gesichter, um seine KI-Modelle zu trainieren“, schrieb sie.

OpenAI hat sich noch nicht offiziell zu den Bedenken hinsichtlich des Datenschutzes geäußert, betont aber, dass Datenschutz und Sicherheit zu den obersten Prioritäten des Unternehmens gehören. Am Montag erklärte ein Unternehmenssprecher, dass OpenAI die Erhebung personenbezogener Daten auf ein Minimum beschränkt und keine privaten Nutzerdaten zum Trainieren seiner Modelle verwendet. 

Sie behaupteten außerdem, dass die Nutzer mithilfe von Selbstbedienungstools kontrollieren können, wie ihre Daten verwendet werden, und dass sie ihre Inhalte löschen oder sich von Modellverbesserungen abmelden können.

Datenerhebung: Stimmt das oder nicht?

Einige Internetnutzer glauben, der Ghibli-Trend sei „eines der größten und heimlichsten Datenerfassungssysteme für Gesichter, die es je gab“. Ein anderer warnte davor, dass Milliarden von Menschen sich „unwissentlich in ihre Konten eingeloggt und so ungewollt ihre Gesichtserkennungsdaten an KI-gesteuerte Systeme weitergegeben“ hätten

Genau, wie kann es sein, dass die Leute das nicht begreifen?
Sie sind einfach im Namen eines Trends gefangen und geben ihre Gesichtserkennungsdaten an KI weiter, ohne auch nur daran zu denken, welchen Schaden das ihnen zufügen könnte, und dann jammern sie ständig über Datenschutz.

— विक्रमादित्य शिवम चौहान (@chau_vik1947) 2. April 2025

Dennoch teilt nicht jeder diese Bedenken. Ein IT-Ingenieur bei X widersprach den Befürchtungen und behauptete, dass KI-Modelle Bilddaten nicht über den unmittelbaren Transformationsprozess hinaus speichern. 

„KI speichert derzeit keine Bilddaten, daher sind die Bilder, die wir für Ghibli oder andere Transformationen verwenden, sicher“, schrieben sie. Sie empfahlen, die Cache-Dateien vorsichtshalber zu löschen, wiesen aber Behauptungen zurück, KI könne Bilder in ihre ursprüngliche Form zurückverwandeln, um sie für Trainingszwecke zu verwenden.

KI speichert derzeit keine Bilddaten, daher sind die Bilder, die wir für Ghibli oder andere Transformationen verwenden, sicher.

Zur Sicherheit sollte der Cache trotzdem geleert werden.

Es gibt auch viele Videos, in denen gezeigt wird, dass man die Bilder umkehren kann. Daher wird die KI Ghibli nicht in das Originalbild zurückverwandeln. #Ghibli pic.twitter.com/fd0k9zVLqR

— Juhi (@juhijain199) 2. April 2025

Andere Theoretiker argumentieren, dass die KI-gestützte Bildgenerierung nicht invasiver sei als bestehende Cloud-Speicherdienste. „Schon komisch, wie sich die Leute Sorgen machen, dass Ghibli unsere Daten missbraucht, als ob der Cloud-Speicher mit all unseren Bildern sicherer wäre. Lol“, kommentierte ein Nutzer.

Der „Ghiblified“-Selfie-Trend ist im Kern ein Brennpunkt der Besorgnis um Urheberrechtsverletzungen, KI-Ethik und Datenschutz. Sollte ChatGPT Fotos und Informationen speichern, die von Nutzern geteilt werden, genügt ein einziger Serverangriff und eine Bildumkehrsoftware, um Ihr Privatleben im Internet öffentlich zu machen.

Ist der Hype um animierte, KI-generierte Kunst den Preis Ihrer persönlichen Daten wert? Vielleicht ja, aber es ist viel sicherer, zweimal darüber nachzudenken, was Sie einem Chatbot mitteilen.