OpenAI kooperiert mit Bryan Cranston und SAG‑AFTRA, um Sora-Deepfakes einzudämmen

OpenAI sagte am Montag, es werde sich mit Bryan Cranston, SAG‑AFTRA und großen Hollywood-Talentverbänden zusammenschließen, um das wachsende Durcheinander von Deepfakes zu bekämpfen, die mit seinem KI-Video-Tool Sora erstellt wurden.

Dies geschieht nach dem Erscheinen gefälschter Clips mit Cranstons Gesicht und Stimme online kurz nach der Veröffentlichung von Sora 2 Ende September. Cranston wusste nichts von deren Existenz, bis sie ihm gezeigt wurden, und war darüber nicht erfreut.

Über SAG‑AFTRA, das dies auf X veröffentlichte, erklärte Cranston: „Ich bin OpenAI für seine Politik und die Verbesserung seiner Schutzmaßnahmen dankbar und hoffe, dass sie und alle an dieser Arbeit beteiligten Unternehmen unser persönliches und berufliches Recht achten, die Vervielfältigung unserer Stimme und unseres Erscheinungsbildes zu regeln.”

Diese Entwicklung kam genau zum Zeitpunkt, als OpenAI ankündigte, sich mit SAG‑AFTRA, Cranstons Agentur United Talent Agency (UTA) sowie weiteren führenden Organisationen wie der Creative Artists Agency (CAA) und der Association of Talent Agents zusammenzuschließen, um nicht autorisierte Nutzungen von Identitäten von Schauspielern zu unterbinden.

OpenAI steht wegen des Missbrauchs von Sora 2 unter Druck von Agenturen

OpenAI wird seit einiger Zeit von Talentagenturen kritisiert. Sowohl CAA als auch UTA hatten das Unternehmen Anfang dieses Jahres scharf kritisiert, weil es urheberrechtlich geschützte Werke zum Training seiner Modelle verwendet habe, und bezeichneten Sora als direkte Bedrohung für das geistige Eigentum ihrer Klienten.

Diese Warnungen wurden Realität, als Nutzer respektlose Videos von Martin Luther King Jr. in Sora hochluden. Die Videos waren so schlecht, dass das Erbe von King letzte Woche eingreifen und um deren Sperrung bitten musste – OpenAI kam dieser Bitte nach.

Die Hitze hielt nicht nur dort an. Zelda Williams, Tochter des verstorbenen Komikers Robin Williams, bat ebenfalls die Leute darum, ihr nach dem Start von Sora 2 keine KI-generierten Videos ihres Vaters mehr zu schicken. Sie äußerte ihre Frustration kurz nach dem Launch öffentlich und trug so zusätzliches Öl ins Feuer, das bereits rund um Openlais lockere Handhabung von Identitätsschutzmaßnahmen brannte.

Angesichts der anwachsenden Beschwerden entschied sich das Unternehmen, seine Richtlinien zu verschärfen. Sora forderte bereits eine ausdrückliche Einwilligung für die Nutzung von Stimme und Ähnlichkeit, doch OpenAI kündigte nun zusätzlich an, schnell auf jegliche Beschwerden über Identitätsmissbrauch oder Nachahmungen zu reagieren.

Sam Altman aktualisiert die Richtlinie und setzt sich für den NO FAKES Act ein

Am 3. Oktober machte OpenAI-CEO Sam Altman es offiziell: Die alte Richtlinie, die dem Unternehmen erlaubte, Material zu verwenden, sofern niemand widersprach? Streichung. Das Unternehmen gewährt Rechteinhabern nun „eine feinere Kontrolle über die Generierung von Charakteren

Sam hat seine Unterstützung für den NO FAKES Act weiter verstärkt, ein US-Gesetzentwurf, der darauf abzielt, nicht autorisierte KI-Repliken zu stoppen. „OpenAI ist tief verpflichtet, Darsteller vor der Aneignung ihrer Stimme und ihres Bildnisses zu schützen

OpenAI hat sich von einer Forschungsorganisation zu einem KI-Imperium entwickelt, das alles verfolgt: Chat-Apps, soziale Plattformen und Enterprise-Tools. Doch mit Milliarden, die in KI-Chips gebunden sind, und dem weiterhin kassenhungrigen Ausbau seiner riesigen Rechenzentren schaut es genau auf Regierungs- und Unternehmensverträge, um die Rechnungen zu bezahlen. Das bedeutet, dass es genauso wichtig ist, Rechtsstreitigkeiten zu vermeiden und Schauspieler, Agenten und Gesetzgeber von seinem Hals zu halten, wie das nächste KI-Modell zu trainieren.