OpenAI collabora con Bryan Cranston e SAG-AFTRA per frenare i deepfake di Sora

OpenAI ha dichiarato lunedì che si unirà a Bryan Cranston, SAG-AFTRA e ai principali gruppi di talenti di Hollywood per affrontare il crescente caos di deepfake realizzati con il suo strumento video AI, Sora.

Questo arriva dopo che clip false del volto e della voce di Cranston sono apparse online subito dopo il lancio di Sora 2 alla fine di settembre. Cranston non sapeva della loro esistenza finché non gli sono state mostrate e non era affatto felice.

Parlando attraverso SAG-AFTRA, che ne ha parlato su X, Cranston ha dichiarato: "Sono grato a OpenAI per la sua politica e per il miglioramento delle sue protezioni, e spero che loro e tutte le aziende coinvolte in questo lavoro rispettino il nostro diritto personale e professionale di gestire la replicazione della nostra voce e immagine".

Quella linea è crollata proprio mentre OpenAI ha annunciato che si sarebbe unita a SAG-AFTRA, all'agenzia di Cranston United Talent Agency (UTA) e ad altri gruppi di primo piano come Creative Artists Agency (CAA) e Association of Talent Agents per bloccare l'uso non autorizzato delle identità degli attori.

OpenAI sotto pressione dalle agenzie per l'abuso di Sora 2

OpenAI è sotto i riflettori delle agenzie di talenti da un po' di tempo. Sia CAA che UTA hanno criticato duramente l'azienda all'inizio di quest'anno per l'uso di opere protette da copyright per addestrare i suoi modelli, definendo Sora una minaccia diretta per la proprietà intellettuale dei loro clienti.

Questi avvertimenti si sono trasformati in realtà quando gli utenti hanno iniziato a caricare video irrispettosi di Martin Luther King Jr. su Sora. I video erano così offensivi che l'eredità di King è intervenuta la scorsa settimana chiedendo che venissero bloccati, e OpenAI ha acconsentito.

Il calore non si è fermato qui. Zelda Williams, figlia del defunto comico Robin Williams, ha anche chiesto alle persone di smettere di inviarle video AI del padre dopo il lancio di Sora 2. Ha espresso la sua frustrazione pubblicamente poco dopo il lancio, aggiungendo altro carburante al fuoco che già si stava accendendo intorno alla presa di posizione di OpenAI sulla protezione delle identità.

Con le lamentele che si accumulavano, l'azienda ha deciso di inasprire le sue politiche. Sora richiedeva già il consenso esplicito per l'uso di voce e immagine, ma OpenAI ha dichiarato che ora si impegna anche a rispondere rapidamente a qualsiasi reclamo ricevuto riguardo a impersonificazioni o abusi.

Sam Altman aggiorna la politica e sostiene il NO FAKES Act

Il 3 ottobre, il CEO di OpenAI Sam Altman ha reso ufficiale: la vecchia politica che permetteva all'azienda di utilizzare materiale a meno che qualcuno non lo vietasse? Abbandonata. L'azienda ora offre ai detentori dei diritti "un controllo più granulare sulla generazione dei personaggi", il che significa che le agenzie possono finalmente gestire come e quando le identità dei loro clienti vengono utilizzate in Sora.

Sam ha anche ribadito il suo sostegno al NO FAKES Act, un disegno di legge degli Stati Uniti volto a fermare le repliche AI non autorizzate. "OpenAI è profondamente impegnata a proteggere gli artisti dall'uso improprio della loro voce e immagine", ha dichiarato. "Eravamo sostenitori precoci del NO FAKES Act quando è stato introdotto lo scorso anno e sosterremo sempre i diritti degli artisti".

OpenAI è passata da un'istituzione di ricerca a un impero AI che insegue tutto: app di chat, piattaforme social e strumenti aziendali. Ma con miliardi bloccati in chip AI e la sua enorme costruzione di data center ancora assetata di cassa, sta guardando con attenzione ai contratti governativi e aziendali per pagare le bollette. Questo significa evitare cause legali e tenere attori, agenti e legislatori lontani dai suoi piedi è ora importante quanto addestrare il prossimo modello AI.