Meta zieht Instagrams KI-Bildtool zurück und testet die Grenzen des KI-ähnlichkeitsbasierten Scrapings

Nur drei Tage nach der Einführung hat Meta eine Instagram-Funktion entfernt, die es Nutzern ermöglichte, KI zu verwenden, um Bilder basierend auf Profilbildern anderer Nutzer zu erstellen. Die Entscheidung des Unternehmens, die Funktion zu entfernen, zeigt wachsende Bedenken hinsichtlich der Einwilligung und der Verwendung von Bildern im Zeitalter der künstlichen Intelligenz.

Der Rückzieher ist ein frühes Rückschlag für Tethers Bemühungen, mit OpenAI und Google im Bereich der generativen KI aufzuholen. Während das Muse-Bildmodell weiterhin verfügbar ist, hat das Unternehmen die Option gestrichen, Bilder basierend auf öffentlichen Instagram-Profilen in seinen Bildgenerierungsanfragen zu erstellen, nachdem es Kritik von Kreativen, Darstellern und Datenschutzaktivisten gab.

Was Meta gebaut hat und was es zurückgenommen hat

Meta stellte Muse Image am 7. Juli vor und erklärte, dass das neue, KI-gestützte Bildgenerierungstool das erste Produkt seines Superintelligence Lab unter der Leitung von Alexandr Wang ist. Die neue Technologie treibt 30 Effekte auf Instagram voran und soll laut internen Tests von Meta Google Nano Banana 2 übertreffen, während sie nur hinter ChatGPTs Bildgenerator zurückliegt.

Der Streit konzentrierte sich nicht auf das Modell an sich, sondern auf die Art und Weise, wie es mit den von Nutzern hochgeladenen Bildern umging. Durch die Verknüpfung ihres öffentlichen Instagram-Kontos für Erwachsene konnten Nutzer die öffentlichen Bilder dieses Kontos in KI-generierten Fotos verwenden. Nutzer unter 18 Jahren und private Konten waren vom System ausgeschlossen, während öffentliche Konten für Erwachsene automatisch eingeschlossen wurden, es sei denn, sie wurden manuell von den Nutzern deaktiviert.

Laut Meta war das Ziel der Funktion, Nutzern „Kontrolle darüber zu geben, ob ihre öffentlichen Inhalte referenziert werden können.“ Viele Kritiker sehen dies jedoch genau umgekehrt: Die Einführung eines Opt-out-Systems bedeutet, davon auszugehen, dass die Einwilligung standardmäßig erteilt wird.

Infolgedessen änderte das Unternehmen bis Freitag seine Meinung.

Ein Vertreter von Meta erklärte gegenüber Variety, „wir haben das Feedback erhalten, dass diese Funktion ihr Ziel verfehlt hat, daher ist sie nicht mehr verfügbar.“

Kreativschaffende und Sicherheitsgruppen zwangen zum Rückzieher

Die Funktion stieß fast unmittelbar nach ihrer Einführung auf Kritik. Die Screen Actors Guild–American Federation of Television and Radio Artists (SAG-AFTRA) riet ihren Mitgliedern, die Funktion zu deaktivieren, und warnte Künstler, „Maßnahmen zum Schutz ihres Erscheinungsbildes zu ergreifen.“

Die Talentagentur Creative Artists Agency, LLC (CAA), die unter anderem Tom Hanks und Meryl Streep vertritt, erklärte, sie stehe in direktem Kontakt mit Meta und äußerte die Ansicht, dass das KI-System niemals die Namen, Bilder, das Erscheinungsbild und die Stimmen von Personen ohne deren ausdrückliche Einwilligung verwenden sollte.

Unterdessen warnten Datenschutzaktivisten, dass die Technologie Identitätsdiebstahl, nicht einvernehmliche intime Bilder und Online-Betrug erleichtern könnte. Haley McNamara vom National Center on Sexual Exploitation sagte in einem Interview mit The Verge, dass die Vorstellung, dass sich Einzelpersonen abmelden, die Verantwortung von dem Unternehmen auf die Nutzer der Technologie verlagere.

Der Streitpunkt unterstreicht den juristischen Kampf um KI-Erscheinungsbilder

Die Kontroverse unterstreicht eine breitere Frage, mit der die KI-Branke konfrontiert ist: Gibt die Veröffentlichung eines Fotos Unternehmen auch das Recht, es für generative KI zu verwenden?

Dieses Thema rückt immer mehr in den Fokus des europäischen Datenschutzrechts. Die Datenschutz-Grundverordnung (DSGVO) definiert Bilder von Personen als personenbezogene Daten, was bedeutet, dass Organisationen eine Rechtsgrundlage für die Verarbeitung solcher Daten gemäß Artikel 6 finden müssen.

Wenn die Einwilligung einer Person eingeholt werden muss, besagt Artikel 7, dass die Einwilligung frei, spezifisch und informiert erteilt werden sollte. Artikel 9 bestimmt, dass die Verarbeitung biometrischer Daten eine höhere Haftung erfordert, um eine Person eindeutig zu identifizieren. Die Artikel 12-14 besagen auch, dass Organisationen beschreiben müssen, wie persönliche Informationen verwendet werden, damit Einzelpersonen sich ihrer Verwendung bewusster sind.

Aufsichtsbehörden erweitern ihren Fokus auch über traditionelle Datenschutzvorschriften hinaus. Der EU-KI-Gesetz verlangt von Anbietern, die Öffentlichkeit zu informieren, wenn Inhalte mit KI-Technologien erstellt oder erweitert wurden, wie z. B. Deepfakes. Zweck dieser Anforderung ist es, Transparenz über synthetische Medien zu schaffen, anstatt die Nutzung dieser Art von Technologie insgesamt zu verbieten.

Meta ist jedoch nicht das einzige Unternehmen, das mit diesem Problem konfrontiert ist. Vor einigen Monaten war OpenAI gezwungen, eine ähnliche Opt-out-Option in seinem Sora-Video-Modell zu entfernen, aufgrund der negativen Reaktionen auf die Verwendung öffentlich verfügbarer Bilder.

Die Eingriffe bestätigen, dass KI-Technologieentwickler vor härteren Herausforderungen stehen, da Aufsichtsbehörden und Kreativielle darauf achten, dass die Einwilligung eindeutig erteilt wird, bevor das Erscheinungsbild einer Person manipuliert wird.

Die Diskussion über das Thema ist bereits in den Bereich der Gesetzgebung übergegangen. Kalifornien hat zwei Gesetze verabschiedet, AB 2602 und AB 1836, die eine Erlaubnis vor der kommerziellen Nutzung eines KI-generierten Bildes eines lebenden oder verstorbenen Darstellers erfordern.

Obwohl die Gesetze eher mit Unterhaltungsverträgen als mit der Anwendbarkeit von KI im Verbraucherbereich zu tun haben, deuten sie dennoch auf eine Tendenz hin, KI-Erscheinungsbilder als Dinge zu betrachten, die eine Erlaubnis benötigen, anstatt einfach davon auszugehen, dass sie von jedem verwendet werden können.

Investoren scheinen von dem ganzen Aufruhr unbeeindruckt. Laut früheren Berichten von Cryptopolitan schloss Meta-Aktien am Tag der Einführung (7. Juli) bei 615,58 $, was einem Tagesgewinn von 2,55 % entspricht und ihr höchster Schlusskurs seit einem Monat ist.

Trotzdem bleibt die Frage, ob die Öffentlichkeit von Inhalten es Nutzern ermöglicht, sie für KI-Entwicklungen zu nutzen. Tatsächlich, wenn die jüngsten Entscheidungen von Meta ein Spiegelbild eines weiteren Trends im KI-Markt sind, berechtigt die bloße Veröffentlichung eines Dings andere nicht unbedingt, es überhaupt in KI zu verwenden. Gleichzeitig wird klar, dass die Einwilligung eine wichtige Rolle bei der Entwicklung neuer KI-Produkte für Verbraucher spielen wird, da sie zunehmend von der Industrie sowie öffentlichen Organisationen gefordert wird.