Zoom即将推出的用于会议交谈的AI头像功能也可能存在深度伪造的可能性

Zoom宣布了一项即将推出的AI头像功能。用户可以使用自己的AI克隆专门录制Zoom短片。该功能将于明年发布。 

人工智能头像功能的公告于10月9日在Zoom年度开发者大会上发布。

用户首先必须录制自己的视频，以复制自己。一旦创建了AI克隆，用户以后只需输入内容，AI版本的自己就会以用户的语音生成音频。内容将在视频中实现口型同步，由数字克隆进行讲述。

需要注意的是，此功能仅适用于Zoom Clips，用户在其中录制并发送简短消息。在这种情况下，用户将在短视频笔记中使用他们的AI。

Zoom正在考虑深度伪造的可能性

随着深度伪造内容在社交媒体上蔓延，许多应用程序正在采取措施进行检测，Zoom也承认了这种可能性。

“我们将继续审查并在未来根据需要增加保障措施，”Hashim说。“我们采用（…）技术，使由头像生成的剪辑显而易见，并（…）帮助确保头像生成内容的完整性。” Smita Hashim

Zoom首席产品官Smita Hashim在新闻发布会上表示，公司将通过先进的身份验证、严格的使用策略和水印技术来谨慎处理风险。然而，预计公司在发布临近时会针对身份验证和策略提供更具体的说明。

另一方面，如Zoom自定义头像功能的示例图所示，出现在角落的水印很容易被移除。

这可能是迈向Zoom首席执行官“AI数字人”愿景的第一步

这一公告与Zoom首席执行官的愿景一致，他此前曾向《The Verge》杂志提及他实现AI数字人的目标。他的雄心是让AI数字人为Zoom用户参加会议。

Zoom还积极整合AI辅助功能以提高用户生产力。

自定义AI头像功能将于2025年作为Zoom AI Companion附加组件推出。该功能的价格为每月12美元。对于不订阅此功能但拥有付费Zoom订阅的用户，可以使用预设的头像和语音，而不是创建自己的头像。