OpenAI se asocia con Bryan Cranston y SAG-AFTRA para frenar los deepfakes de Sora

OpenAI dijo el lunes que se une a Bryan Cranston, SAG-AFTRA y los principales grupos de talento de Hollywood para abordar el creciente desorden de deepfakes creados en su herramienta de video IA, Sora.

Esto ocurre después de que aparecieran en línea clips falsos del rostro y la voz de Cranston justo después del lanzamiento de Sora 2 a finales de septiembre. Cranston no tenía idea de que existían hasta que se los mostraron, y no le gustó nada.

Hablando a través de SAG-AFTRA, que publicó al respecto en X, Cranston dijo: "Estoy agradecido con OpenAI por su política y por mejorar sus barreras de seguridad, y espero que ellos y todas las empresas involucradas en este trabajo respeten nuestro derecho personal y profesional a gestionar la replicación de nuestra voz y apariencia".

Esa línea cayó justo cuando OpenAI anunció que se asociaría con SAG-AFTRA, la agencia de Cranston United Talent Agency (UTA) y otros grupos principales como la Creative Artists Agency (CAA) y la Association of Talent Agents para detener los usos no autorizados de las identidades de los actores.

OpenAI enfrenta críticas de las agencias por el mal uso de Sora 2

OpenAI ha estado bajo fuego de las agencias de talentos durante un tiempo. Tanto CAA como UTA criticaron a la compañía a principios de este año por usar obras con derechos de autor para entrenar sus modelos, calificando a Sora como una amenaza directa para la propiedad intelectual de sus clientes.

Esas advertencias se volvieron reales cuando los usuarios comenzaron a subir videos irrespetuosos de Martin Luther King Jr. a Sora. Los videos eran tan malos que la familia de King tuvo que intervenir la semana pasada y pedir que se bloquearan, y OpenAI accedió.

El calor no se detuvo ahí. Zelda Williams, hija del difunto comediante Robin Williams, también dijo a la gente que dejara de enviarle videos hechos con IA de su padre después de que Sora 2 se lanzara. Hizo pública su frustración poco después del lanzamiento, añadiendo más leña al fuego que ya se estaba acumulando alrededor del control laxo de OpenAI sobre las protecciones de identidad.

Con las quejas acumulándose, la compañía decidió endurecer sus políticas. Sora ya requería consentimiento opt-in para el uso de voz y apariencia, pero OpenAI dijo que ahora también promete responder rápidamente a cualquier queja que reciba sobre suplantación de identidad o mal uso.

Sam Altman actualiza la política y impulsa la Ley NO FAKES

El 3 de octubre, el CEO de OpenAI, Sam Altman, hizo oficial: ¡la vieja política que permitía a la compañía usar material a menos que alguien se lo dijera? Abandonada. La compañía ahora otorga a los titulares de derechos "un control más granular sobre la generación de personajes", lo que significa que las agencias finalmente pueden gestionar cómo y cuándo se utilizan las identidades de sus clientes en Sora.

Sam también reafirmó su apoyo a la Ley NO FAKES, un proyecto de ley de EE. UU. destinado a detener las réplicas de IA no autorizadas. "OpenAI está profundamente comprometida con proteger a los artistas de la apropiación indebida de su voz y apariencia", dijo. "Fuimos un defensor temprano de la Ley NO FAKES cuando se presentó el año pasado, y siempre respaldaremos los derechos de los artistas".

OpenAI ha pasado de ser un grupo de investigación a un imperio de IA que lo persigue todo; aplicaciones de chat, plataformas sociales y herramientas empresariales. Pero con miles de millones bloqueados en chips de IA y su enorme construcción de centros de datos aún hambrienta de efectivo, está mirando con atención los contratos gubernamentales y corporativos para pagar las facturas. Eso significa evitar demandas y mantener a actores, agentes y legisladores fuera de su espalda es ahora tan importante como entrenar el próximo modelo de IA.