Meta im Sturm der unbefugten Erstellung von flirty Chatbots weiblicher Prominenter
- Eine Untersuchung von Reuters ergab, dass die KI-Tools von Meta flirty Deepfake-Chatbots von Prominenten wie Taylor Swift und Scarlett Johansson ohne deren Einwilligung ermöglicht haben.
- Reuters deckte zudem einen Chatbot auf, der den 16-jährigen Schauspieler Walker Scobell imitierte, was Bedenken hinsichtlich des Kinderschutzes aufwarf.
- Das Unternehmen gab Versäumnisse bei der Durchsetzung seiner Richtlinien zu und löschte kurz vor Veröffentlichung des Berichts ein Dutzend Bots.
Meta ist erneut in die Kritik geraten, da jüngste, von Reuters veröffentlichte Erkenntnisse zeigen, dass seine KI-Tools die Erstellung von Deepfake-Bildern und Chatbots ermöglichten, die beliebte Prominente wie Taylor Swift, Scarlett Johansson, Anne Hathaway und Selena Gomez nachahmen, ohne deren Zustimmung.
Die Untersuchung ergab, dass die meisten Bots von Nutzern über die KI-Chatbot-Plattform von Meta erstellt wurden. Es gab jedoch einige, die intern von einem Meta-Mitarbeiter erstellt wurden.
Einige der Taylor-Swift-Parodie-Chatbot-Konten bestanden darauf, die echte Sängerin zu sein, und machten oft flirtende Annäherungsversuche und regten Treffen an.
Berichte machen Meta für den Skandal um flirtende Avatare verantwortlich
Reuters berichtete, dass mehrere Wochen des Tests ergaben, dass die Promi-Chatbots, die auf den Meta-Plattformen Facebook, Instagram und WhatsApp verfügbar sind, manchmal weit über spielerische Konversationen hinausgingen. Nutzer forderten sie auf, fotorealistische Bilder von Stars in Unterwäsche zu erstellen, die in Badewannen posieren, und schlugen sogar intime Begegnungen vor.
Eine beunruhigende Entdeckung war die Erstellung eines Chatbots von Walker Scobell, einem 16-jährigen Schauspieler. Auf die Anfrage nach einem Strandfoto generierte der Bot ein lebensechtes Bild des Teenagers ohne Shirt mit der Beschriftung: „Hübsch süß, oder?“
Meta ist nicht allein mit der Konfrontation. Elons Musk xAI ist ebenfalls unter Kritik geraten, weil es Nutzern ermöglicht hat, Deepfake-Bilder von Prominenten in Unterwäsche zu generieren.
Der Meta-Sprecher Andy Stone räumte die Versäumnisse ein und sagte, die Tools des Unternehmens hätten weder intime Darstellungen erwachsener Prominenter noch sexualisierte Materialien, die Minderjährige betreffen, generieren dürfen.
„Wie andere erlauben wir die Generierung von Bildern, die öffentliche Personen enthalten, aber unsere Richtlinien sollen nackt, intim oder sexuell anspielende Bilder verbieten“, sagte er gegenüber Reuters. Er fügte hinzu, dass die Darstellungen in Unterwäsche auf Versäumnisse bei der Durchsetzung der Unternehmensrichtlinien zurückzuführen seien.
Metas Regeln verbieten „direkte Identitätsanmaßung“, aber das Unternehmen argumentierte, dass Parodie-Bots zulässig seien, wenn sie klar gekennzeichnet sind. Reuters fand jedoch heraus, dass einige Avatare keine Warnhinweise trugen. Meta löschte etwa ein Dutzend der Bots, sowohl Parodie als auch unmarkiert, kurz bevor der Reuters-Bericht veröffentlicht wurde. Das Unternehmen lehnte eine Kommentierung zu den Löschungen ab.
Sorgen um die KI-Sicherheit könnten zu regulatorischem Druck führen
Nach dem Bericht sagte Meta, es werde neue Schutzmaßnahmen einführen, um Jugendliche zu schützen, einschließlich der Einschränkung des Jugendszugangs zu bestimmten KI-Charakteren und des Neutrainings seiner Modelle, um unangemessene Themen zu reduzieren.
Der Generalstaatsanwalt von Kalifornien, Rob Bonta, gab eine Warnung an die Branche heraus und sagte: „Kinder sexuell ausbeuterischen Inhalten auszusetzen ist nicht zu rechtfertigen.“
In einem tragischen Fall Anfang dieses Monats starb ein kognitiv beeinträchtigter 76-jähriger Mann in New Jersey, nachdem er versucht hatte, einen Meta-Chatbot zu treffen, von dem er glaubte, es handele sich um eine echte Frau. Kritiker sagen, solche Fälle verdeutlichen die Gefahren des Einsatzes von KI-Tools im großen Maßstab ohne angemessene Schutzvorkehrungen.
Rechtsexperten warnen, dass Meta vor erheblichen Herausforderungen im Rahmen bestehender Gesetze zum geistigen Eigentum und zum Recht am eigenen Bild stehen könnte. Mark Lemley, ein Professor für Rechtswissenschaften an der Stanford University, sagte, das Gesetz von Kalifornien zum „Recht am eigenen Bild“ verbiete die Verwendung des Namens oder des Bildes einer Person zu kommerziellen Zwecken ohne Zustimmung.
„Das scheint hier nicht zuzutreffen“, sagte er und wies darauf hin, dass die Bots einfach die Bilder von Prominenten replizierten, anstatt transformative Werke zu schaffen.
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Hannah Collymore
Hannah ist Autorin und Redakteurin mit fast einem Jahrzehnt Erfahrung im Bloggen und in der Berichterstattung über Events im Krypto-Bereich. Bei Cryptopolitan arbeitet sie an der News-Seite und berichtet sowie analysiert die neuesten Entwicklungen in den Bereichen DeFi, RWA, Krypto-Regulierung, KI und Zukunftstechnologien. Sie hat ihr Studium an der Arcadia University mit einem Abschluss in Betriebswirtschaft abgeschlossen.
