YouTube presenta nuovi strumenti per tutelare i creator contro i deepfake generati dall'IA

YouTube sta sviluppando strumenti per rilevare l'uso di versioni generate dall'IA delle voci o delle sembianze fisiche degli utenti nei video senza il loro consenso. In un annuncio di oggi, la piattaforma di proprietà di Google ha dichiarato che questi strumenti proteggeranno i creator sulla sua piattaforma.

L'annuncio è uno sviluppo benvenuto, poiché gli strumenti affrontano le principali preoccupazioni riguardo alla proliferazione dei deepfake, che a volte portano a perdite finanziarie e reputazionali. Molti sperano che ciò renda più fluido il processo di identificazione e segnalazione dei deepfake.

Due strumenti si concentrano sulla protezione di musicisti e personaggi pubblici

L'azienda ha spiegato che sta lavorando a due strumenti. Il primo è uno strumento di identificazione della voce cantata che farà parte del sistema YouTube Content ID. Questa funzione rileva automaticamente i contenuti generati dall'IA che simulano le voci cantate di altre persone sulla piattaforma e li rimuove automaticamente.

Per il secondo strumento, YouTube sta sviluppando una tecnologia che consente alle persone famose, come creator, atleti, musicisti e artisti, di rilevare e rimuovere i deepfake del proprio volto sulla piattaforma. L'azienda ha sottolineato che questi strumenti, insieme alle sue Privacy Updates e ai Termini di Servizio, saranno sufficienti per tutelare i creator.

Tuttavia, l'obiettivo di YouTube non è impedire alle persone di utilizzare l'IA sulla sua piattaforma; cerca solo di garantire un uso responsabile dell'IA e di dare ai creator il controllo sull'uso della propria immagine.

Ha dichiarato:

"Crediamo che l'IA dovrebbe potenziare la creatività umana, non sostituirla. Siamo impegnati a lavorare con i nostri partner per garantire che i futuri progressi amplifichino le loro voci, e continueremo a sviluppare protezioni per affrontare le preoccupazioni e raggiungere i nostri obiettivi comuni."

Nel frattempo, YouTube non ha fornito una scadenza per la disponibilità di queste funzionalità per gli utenti, limitandosi a notare che lo strumento di rilevamento della voce cantata necessita ancora di alcune ottimizzazioni, ma ci sarà un programma pilota entro l'inizio del 2025.

YouTube anticipa la tecnologia per prevenire il data scraping dell'IA

YouTube ha anche accennato di lavorare a uno strumento per impedire alle aziende di IA di utilizzare i contenuti della sua piattaforma per addestrare i loro modelli senza il permesso dei proprietari. Considerando questo un problema maggiore, la piattaforma ha dichiarato di investire in sistemi che rileveranno e bloccheranno i terzi dallo scraping dei dati dalla sua piattaforma e dalla violazione dei suoi Termini di Servizio.

Tuttavia, ha riconosciuto che i creator potrebbero voler collaborare con le aziende di IA. Pertanto, sta lavorando a modi per consentire ai creator di YouTube di controllare come i terzi utilizzano i loro contenuti sulla piattaforma.

Nonostante la posizione dura di YouTube contro le aziende di IA che effettuano scraping dei suoi contenuti per addestrare i loro modelli, la piattaforma e la sua società madre, Google, utilizzano questi contenuti per lo stesso scopo, ma in conformità con i termini di servizio. Ha intenzione di continuare a utilizzare i contenuti per sviluppare strumenti di IA in modo responsabile.