YouTube svela nuovi strumenti per proteggere i creatori dai deepfake generati dall'intelligenza artificiale

YouTube sta sviluppando strumenti per rilevare l'uso di versioni generate dall'intelligenza artificiale delle voci o delle sembianze fisiche degli utenti nei video senza il loro consenso. In un annuncio odierno, la piattaforma di proprietà di Google ha affermato che questi strumenti proteggeranno i creatori di contenuti sulla sua piattaforma.

L'annuncio è un passo avanti positivo, poiché gli strumenti affrontano le principali preoccupazioni legate alla proliferazione dei deepfake, che a volte comportano perdite finanziarie e di reputazione. Molti sperano che renda più fluido il processo didente segnalazione dei deepfake.

Due strumenti mirati alla tutela di musicisti e personaggi pubblici

L'azienda ha spiegato che sta lavorando a due strumenti. Il primo è uno strumento didentdella voce cantata che farebbe parte del sistema Content ID di YouTube. Questa funzionalità rilevamatici contenuti generati dall'intelligenza artificiale che simulano le voci cantate di altre persone sulla piattaforma e li rimuovematic.

Per quanto riguarda il secondo strumento, YouTube sta sviluppando una tecnologia che consente a personaggi famosi come creator, atleti, musicisti e artisti di rilevare e rimuovere i deepfake dei loro volti sulla piattaforma. L'azienda ha sottolineato che questi strumenti, insieme agli Aggiornamenti sulla privacy e ai Termini di servizio, sarebbero sufficienti a tutelare i creator.

Tuttavia, l'obiettivo di YouTube non è impedire alle persone di utilizzare l'intelligenza artificiale sulla sua piattaforma; cerca solo di garantire un uso responsabile dell'intelligenza artificiale e di consentire ai creatori di controllare l'uso delle loro immagini.

Diceva ​:

"Crediamo che l'intelligenza artificiale debba potenziare la creatività umana, non sostituirla. Ci impegniamo a collaborare con i nostri partner per garantire che i progressi futuri amplifichino la loro voce e continueremo a sviluppare misure di salvaguardia per affrontare le problematiche e raggiungere i nostri obiettivi comuni."

Nel frattempo, YouTube non ha fornito una tempistica per quando queste funzionalità saranno disponibili per gli utenti, sottolineando solo che lo strumento di rilevamento della voce cantata necessita ancora di alcuni perfezionamenti, ma che ci sarà un programma pilota entro l'inizio del 2025.

YouTube anticipa la tecnologia per impedire l'estrazione di dati dall'intelligenza artificiale

YouTube ha anche lasciato intendere di stare lavorando a uno strumento per impedire alle aziende di intelligenza artificiale di utilizzare i contenuti della sua piattaforma per addestrare i propri modelli senza il permesso dei proprietari. Considerando questo un problema importante, la piattaforma ha affermato di star investendo in sistemi in grado di rilevare e impedire a terze parti di estrarre dati dalla sua piattaforma e violare i suoi Termini di servizio.

Tuttavia, ha riconosciuto che i creatori potrebbero voler collaborare con le aziende di intelligenza artificiale. Pertanto, sta lavorando a modalità che consentano ai creatori di YouTube di controllare il modo in cui terze parti utilizzano i loro contenuti sulla piattaforma.

Nonostante la posizione dura di YouTube nei confronti delle aziende di intelligenza artificiale che utilizzano i suoi contenuti per addestrare i propri modelli, la piattaforma e la sua società madre, Google, utilizzano questi contenuti per lo stesso scopo, ma nel rispetto dei termini di servizio. Prevedono di continuare a utilizzare i contenuti per sviluppare strumenti di intelligenza artificiale in modo responsabile.