La próxima función de Zoom de avatares de IA para hablar en reuniones también puede tener una posibilidad de falsificaciones profundas

Zoom ha anunciado la próxima función de avatar con IA. Los usuarios podrán usar clones de IA de sí mismos para grabar específicamente para vídeos de Zoom. Esta función se lanzará el próximo año. 

El anuncio de la función de avatar de IA se publicó hoy, 9 de octubre, en la conferencia anual de desarrolladores de Zoom.

Los usuarios deberán grabar primero un video de sí mismos para replicarse en un clon. Una vez creado el clon de IA, podrán escribir el contenido; la versión de IA generará el audio con su voz. El contenido se sincronizará con los labios en el video, donde el clon digital habla.

Cabe destacar que esta función solo está disponible para Zoom Clips, donde los usuarios graban y envían mensajes cortos. En este caso, los usuarios tendrán su IA en las notas de video cortas.

Zoom está considerando la posibilidad de falsificaciones profundas

Dado que el deep fake se está extendiendo cada vez más en las redes sociales y muchas aplicaciones están tomando medidas para detectarlo, Zoom también ha reconocido esta posibilidad.

“Seguiremos revisando y añadiendo medidas de seguridad según sea necesario en el futuro”, declaró Hashim. “Utilizamos tecnología para que sea evidente cuándo un clip se genera con un avatar y para garantizar la integridad del contenido generado por avatares”. Smita Hashim

La directora de producto de Zoom, Smita Hashim, declaró en la rueda de prensa que la compañía gestionará el riesgo con mucho cuidado, aplicando políticas de autenticación avanzadas y estrictas, y tecnología de marca de agua. Sin embargo, se espera que la compañía sea más específica en cuanto a la autenticación y las políticas cuando se acerque el lanzamiento.

Por otro lado, la marca de agua que aparece en la esquina, como se muestra en la maqueta de la función de avatar personalizado de Zoom, se puede eliminar fácilmente.

Este podría ser el primer paso hacia la visión de “gemelo IA” del CEO de Zoom

Este anuncio coincide con la visión del CEO de Zoom, quien mencionó anteriormente su objetivo de un gemelo de IA con la revista Verge. Su ambición es permitir que el gemelo de IA asista a las reuniones de los usuarios de Zoom.

Zoom también ha estado incorporando activamente asistencia de IA para aumentar la productividad de sus usuarios.

La función de avatar personalizado con IA se lanzará en 2025 como complemento AI Companion de Zoom. Su precio es de 12 $ al mes. Quienes no estén suscritos a esta función y tengan una suscripción de pago a Zoom podrán usar los ajustes preestablecidos de avatares y voces en lugar de crear los suyos propios.