O recurso futuro do Zoom de avatares de IA para conversar em reuniões também pode conter uma possível falsificação profunda (deep fakes)

O Zoom anunciou um novo recurso de avatar com IA. Os usuários poderão usar clones de si mesmos criados por IA para gravar vídeos específicos para o Zoom. O recurso será lançado no próximo ano. 

O anúncio do recurso de avatar com IA foi feito hoje, 9 de outubro, na conferência anual de desenvolvedores da Zoom.

Os usuários precisarão gravar um vídeo de si mesmos primeiro para serem replicados em um clone. Uma vez criado o clone de IA, os usuários poderão simplesmente digitar o conteúdo, e a versão de IA de si mesmos gerará o áudio com a voz do usuário. O conteúdo será sincronizado com os lábios no vídeo, onde o clone digital estará falando.

É importante notar que este recurso é exclusivo para Zoom Clips, nos quais os usuários gravam e enviam mensagens curtas. Nesse caso, os usuários terão sua IA incluída nas anotações de vídeo curtas.

O Zoom está levando em consideração a possibilidade de deepfakes

Com o aumento da disseminação de conteúdo deepfake nas redes sociais e com muitos aplicativos tomando medidas para detectá-lo, o Zoom também reconheceu essa possibilidade.

“Continuaremos a rever e a adicionar medidas de segurança conforme necessário no futuro”, disse Hashim. “Utilizamos (...) tecnologia para tornar óbvio quando um vídeo é gerado com um avatar e (...) para ajudar a garantir a integridade do conteúdo gerado por avatar.” Smita Hashim

A diretora de produtos da Zoom, Smita Hashim, afirmou em coletiva de imprensa que a empresa lidará com os riscos com muita cautela, utilizando autenticação avançada, políticas de uso rigorosas e tecnologia de marca d'água. No entanto, espera-se que a empresa forneça detalhes mais específicos sobre a autenticação e as políticas à medida que a versão final for lançada.

Por outro lado, a marca d'água que aparece no canto, como mostrado na simulação do recurso de avatar personalizado do Zoom, pode ser facilmente removida.

Este pode ser o primeiro passo rumo à visão de "gêmeo de IA" do CEO da Zoom

Este anúncio está alinhado com a visão do CEO da Zoom, que já havia mencionado seu objetivo de criar um gêmeo digital com inteligência artificial em entrevista à revista The Verge. Sua ambição é permitir que esse gêmeo digital participe das reuniões em nome dos usuários do Zoom.

A Zoom também tem incorporado ativamente a assistência de IA para aumentar a produtividade de seus usuários.

O recurso de avatar personalizado com IA será lançado até 2025 como o complemento AI Companion do Zoom. O recurso custará US$ 12 por mês. Usuários que não assinarem esse recurso, mas tiverem uma assinatura paga do Zoom, poderão usar os avatares e vozes predefinidos em vez de criar os seus próprios.