OpenAI s'associe à Bryan Cranston et à SAG‑AFTRA pour limiter les deepfakes de Sora

OpenAI a annoncé lundi qu’elle s’associe à Bryan Cranston, à la SAG‑AFTRA et à de grands groupes de talents hollywoodiens pour faire face à l’engorgement croissant des deepfakes créés avec son outil vidéo IA, Sora.

Cela fait suite à l’apparition en ligne de faux clips montrant le visage et la voix de Cranston, juste après le lancement de Sora 2 fin septembre. Cranston ignorait leur existence jusqu’à ce qu’on les lui montre, et il n’était pas du tout ravi.

S’exprimant par l’intermédiaire de la SAG‑AFTRA, qui en a parlé sur X, Cranston a déclaré : « Je suis reconnaissant envers OpenAI pour sa politique et pour l’amélioration de ses garde-fous, et j’espère que cette entreprise ainsi que toutes celles impliquées dans ce travail respecteront notre droit personnel et professionnel de gérer la reproduction de notre voix et de notre image. »

Cette ligne est tombée juste alors que OpenAI a annoncé qu'elle s'associerait à SAG‑AFTRA, à l'agence de Cranston United Talent Agency (UTA), et à d'autres grands groupes comme la Creative Artists Agency (CAA) et l'Association of Talent Agents pour mettre fin aux utilisations non autorisées des identités des acteurs.

OpenAI sous pression des agences concernant l’abus de 2 Sora

OpenAI est depuis un certain temps sous le feu des agences de talents. CAA et UTA ont vivement critiqué l’entreprise plus tôt cette année pour avoir utilisé des œuvres protégées par le droit d’auteur afin d’entraîner leurs modèles, qualifiant Sora de menace directe pour la propriété intellectuelle de leurs clients.

Ces avertissements sont devenus réalité lorsque des utilisateurs ont commencé à télécharger des vidéos irrespectueuses de Martin Luther King Jr. sur Sora. Les vidéos étaient si mauvaises que la succession de King a dû intervenir la semaine dernière pour demander leur blocage, et OpenAI s'y est conformé.

La chaleur ne s'est pas arrêtée là. Zelda Williams, fille du défunt comédien Robin Williams, a également demandé aux gens d'arrêter de lui envoyer des vidéos de son père générées par IA après le lancement de Sora 2. Elle a rendu publique sa frustration peu de temps après le lancement, ajoutant plus de carburant au feu déjà en train de se développer autour de la prise de contrôle lâche d'OpenAI sur les protections de l'identité.

Face à l'accumulation de plaintes, l'entreprise a décidé de durcir ses politiques. Sora exigeait déjà un consentement explicite pour l'utilisation de la voix et de l'image, mais OpenAI promet désormais de répondre rapidement à toute plainte concernant des usurpations d'identité ou des utilisations abusives.

Sam Altman met à jour la politique et pousse le projet de loi NO FAKES

Le 3 octobre, Sam Altman, PDG d'OpenAI, a officialisé la décision : l'ancienne politique qui permettait à l'entreprise d'utiliser du matériel sauf indication contraire ? Abrogée. L'entreprise donne désormais aux titulaires de droits « un contrôle plus granulaire sur la génération de personnages », ce qui signifie que les agences peuvent enfin gérer comment et quand l'identité de leurs clients est utilisée dans Sora.

Sam a également renforcé son soutien à la loi NO FAKES, un projet de loi américain visant à mettre fin aux répliques IA non autorisées. « OpenAI est profondément engagé dans la protection des interprètes contre l'appropriation illicite de leur voix et de leur image », a-t-il déclaré. « Nous avons été parmi les premiers soutiens de la loi NO FAKES dès son introduction l'année dernière et nous continuerons toujours à défendre les droits des interprètes. »

OpenAI est passé d'un organisme de recherche à un empire de l'IA poursuivant tout : applications de chat, plateformes sociales et outils pour entreprises. Mais avec des milliards immobilisés dans des puces IA et sa gigantesque construction de centres de données encore assoiffée de capitaux, elle se tourne vers les contrats gouvernementaux et d'entreprise pour payer ses factures. Cela signifie qu'éviter les poursuites judiciaires et obtenir le soutien des acteurs, des agents et des législateurs est désormais aussi important que l'entraînement du prochain modèle d'IA.