La prossima funzionalità di Zoom che prevede avatar AI per parlare durante le riunioni potrebbe anche contenere falsi profondi

Zoom ha annunciato una nuova funzionalità, l'AI avatar. Gli utenti potranno usare cloni AI di se stessi per registrare clip specifiche per Zoom. La funzionalità sarà disponibile il prossimo anno. 

L' annuncio della funzionalità avatar basata sull'intelligenza artificiale è stato reso pubblico oggi, 9 ottobre, durante la conferenza annuale degli sviluppatori Zoom.

Gli utenti dovranno prima registrare un video di se stessi, per replicarsi in un clone. Una volta creato il clone AI, gli utenti potranno semplicemente digitare il contenuto e la versione AI di se stessi genererà l'audio con la voce dell'utente. Il contenuto verrà sincronizzato con il labiale nel video, mentre il clone digitale parla.

È importante notare che questa funzionalità è disponibile solo per Zoom Clips, in cui gli utenti registrano e inviano brevi messaggi. In questo caso, gli utenti avranno la loro IA nelle brevi note video.

Zoom tiene conto della possibilità di falsi profondi

Dato che sui social media si stanno diffondendo sempre più contenuti deep fake e molte app stanno adottando misure per rilevarli, anche Zoom ha riconosciuto questa possibilità.

"Continueremo a rivedere e ad aggiungere misure di sicurezza, se necessario, in futuro", ha affermato Hashim. "Utilizziamo (...) la tecnologia per rendere evidente quando una clip viene generata con un avatar e (...) per contribuire a garantire l'integrità dei contenuti generati dagli avatar". Smita Hashim

Il Chief Product Officer di Zoom, Smita Hashim, ha dichiarato durante la conferenza stampa che l'azienda gestirà il rischio con la massima attenzione, adottando rigorose policy di autenticazione avanzata e tecnologie di watermarking. Tuttavia, si prevede che l'azienda sarà più specifica in merito all'autenticazione e alle policy in vista del rilascio.

D'altro canto, la filigrana che appare nell'angolo, come mostrato nel mockup della funzionalità avatar personalizzata di Zoom, può essere facilmente rimossa.

Potrebbe essere il primo passo verso la visione del “gemello dell’IA” del CEO di Zoom

Questo annuncio è in linea con la visione del CEO di Zoom, che in precedenza aveva accennato al suo obiettivo di realizzare un gemello AI con la rivista Verge. La sua ambizione è quella di consentire al gemello AI di partecipare alle riunioni degli utenti Zoom.

Anche Zoom ha integrato attivamente l'assistenza dell'intelligenza artificiale per aumentare la produttività dei suoi utenti.

La funzionalità AI Avatar personalizzata sarà lanciata entro il 2025 come componente aggiuntivo AI Companion di Zoom. Il prezzo della funzionalità sarà di 12 dollari al mese. Gli utenti che non si abboneranno a questa funzionalità pur avendo un abbonamento Zoom a pagamento potranno utilizzare i preset di avatar e voci invece di crearne di propri.