Meta gerät wegen unerlaubter Erstellung eines flirtenden Chatbots mit weiblichen Prominenten in einen Sturm der Entrüstung

Meta ist erneut in die Kritik geraten, da kürzlich von Reuters veröffentlichte Erkenntnisse zeigen, dass die KI-Tools des Unternehmens die Erstellung von Deepfake-Bildern und Chatbots ermöglichten, die beliebte Prominente wie Taylor Swift, Scarlett Johansson, Anne Hathaway und Selena Gomez ohne deren Zustimmung imitierten.

Die Untersuchung ergab, dass die meisten Bots von Nutzern über Metas KI-Chatbot-Plattform erstellt wurden. Einige wenige wurden jedoch intern von einem Meta-Mitarbeiter entwickelt.

Einige der Parodie-Chatbot-Accounts von Taylor Swift behaupteten, die echte Sängerin zu sein, und machten oft flirtende Annäherungsversuche und ermutigten zu Treffen.

Berichten zufolge ist Meta in einen Skandal um anzügliche Avatare verwickelt

Reuters berichtete, dass mehrwöchige Tests ergaben, dass die Promi-Chatbots, die über Metas Plattformen Facebook, Instagram und WhatsApp verfügbar sind, mitunter weit über spielerische Konversation hinausgingen. Nutzer forderten sie auf, fotorealistische Bilder von Stars in Dessous, in Badewannen und sogar intime Begegnungen zu erstellen.

Eine beunruhigende Entdeckung war die Entwicklung eines Chatbots, der Walker Scobell, einen 16-jährigen Schauspieler, nachempfunden war. Auf die Frage nach einem Strandfoto generierte der Bot ein lebensechtes Bild des Teenagers mit freiem Oberkörper und der Bildunterschrift: „Ziemlich süß, oder?“

Meta ist nicht das einzige Unternehmen, das in der Kritik steht. Auch Elon Musks xAI wurde kritisiert , dass es Nutzern ermöglicht, Deepfake-Bilder von Prominenten in Unterwäsche zu erstellen.

Meta-Sprecher Andy Stone räumte die Fehler ein und sagte, die Tools des Unternehmens hätten weder intime Darstellungen von erwachsenen Prominenten noch sexualisiertes Material mit Minderjährigen erzeugen dürfen.

„Wie andere erlauben auch wir die Erstellung von Bildern mit Persönlichkeiten des öffentlichen Lebens, unsere Richtlinien zielen jedoch darauf ab, Nacktheit, intime oder sexuell anzügliche Darstellungen zu verbieten“, sagte er gegenüber Reuters. Er fügte hinzu, dass die Darstellungen von Dessous auf Versäumnisse bei der Durchsetzung der Unternehmensrichtlinien hindeuteten.

Die Regeln von Meta verbieten „direkte Identitätsfälschung“, doch das Unternehmen argumentierte, Parodie-Bots seien zulässig, sofern sie klar gekennzeichnet seien. Reuters stellte jedoch fest, dass einige Avatare keinen entsprechenden Hinweis enthielten. Meta etwa ein Dutzend dieser Bots, sowohl Parodie- als auch nicht gekennzeichnete. Das Unternehmen lehnte eine Stellungnahme zu den Löschungen ab.

Sicherheitsbedenken im Zusammenhang mit KI könnten zu regulatorischem Druck führen

Nach Veröffentlichung des Berichtskündigte Meta an, neue Schutzmaßnahmen für Teenager einzuführen, darunter die Einschränkung des Zugangs von Jugendlichen zu bestimmten KI-Charakteren und das Umlernen der Modelle, um unangemessene Themen zu reduzieren.

Der kalifornische Generalstaatsanwalt Rob Bonta warnte die Branche mit den Worten: „Kinder sexualisierten Inhalten auszusetzen, ist nicht zu rechtfertigen.“

In einem tragischen Fall Anfang dieses Monats starb ein kognitiv beeinträchtigter 76-jähriger Mann in New Jersey, nachdem er versucht hatte, mit einem Meta-Chatbot zu kommunizieren, den er für eine echte Frau hielt. Kritiker weisen darauf hin, dass solche Fälle die Gefahren des Einsatzes großflächiger KI-Systeme ohne ausreichende Schutzmechanismen verdeutlichen.

Rechtsexperten warnen, dass Meta aufgrund geltender Gesetze zum geistigen Eigentum und zum Persönlichkeitsrecht vor erheblichen Herausforderungen stehen könnte. Mark Lemley, Rechtsprofessor an der Stanford University, erklärte, dass das kalifornische Gesetz zum „Recht am eigenen Bild“ die Verwendung des Namens oder des Bildes einer Person für kommerzielle Zwecke ohne deren Einwilligung verbietet.

„Das scheint hier nicht der Fall zu sein“, sagte er und merkte an, dass die Bots lediglich Bilder von Prominenten nachbildeten, anstatt transformative Werke zu schaffen.