委内瑞拉总统尼古拉斯·马杜罗下台后,人工智能制作的虚假庆祝活动视频在网上疯传。.
这些完全由人工智能制造的视频片段显示,大批人群欢呼雀跃,挥舞着旗帜,感谢唐纳德·特朗普dent 和美国军方。然而,问题是,这一切根本没有发生过。.
最早也是最火爆的视频片段之一是由一个名为“华尔街猿猴”(Wall Street Apes)的 X 账号发布的,该账号拥有超过 100 万粉丝。视频显示,委内瑞拉公民哭泣、拥抱,并赞扬美国推翻了马杜罗政权。.
这条帖子被社区标记后,已被转发了3.8万人,浏览量达到560万次,甚至在用户删除之前还出现在了埃隆·马斯克的推特上。社区标记还添加了以下警告:
“这段视频由人工智能生成,目前被当作事实陈述来呈现,其目的是误导公众。”
人工智能平台助长了有关委内瑞拉的虚假视频的传播。
BBC 和法新社的事实核查人员 trac原始视频来自一个名为 @curiousmindusa 的 TikTok 帐户,该帐户定期发布人工智能生成的视频片段。.
虽然我们未能找到确切的来源,但两家新闻机构都证实这是最早的版本。这段视频出现 大规模军事行动 在1月3日美军发动空袭和地面突袭,导致马杜罗被捕的
在他被拘留的照片在政府发布官方照片之前就已在网上流传,而且那些早期的照片也都是假的。.
法新社还指出了更多误导性内容。其中一段看似在加拉加斯拍摄的街头派对视频,实际上是智利的一段旧视频,却被当作委内瑞拉人在街头庆祝的画面发布。.
这并非人工智能首次被用于在突发新闻事件中扭曲事实,也 defi会是最后一次。类似的模式曾在俄乌冲突和巴以冲突中出现。但委内瑞拉虚假新闻的惊人速度和逼真程度,使其与以往有所不同。.
这样的平台 Sora 让在几分钟内制作虚假视频变得异常容易,而且人们还不断上当受骗。
社交平台难以应对虚假内容。
这些视频的制作者往往试图宣传某些政治观点,或者仅仅是在网络上煽动混乱。而且他们的目的达到了。去年,一段人工智能生成的视频显示,一些虚构的女性在美国政府停摆期间哭诉自己失去了食品券(SNAP)福利。福克斯新闻一度将这段视频当作真实视频播出,直到后来不得不撤下。.
所有这些都引发了人们对社交平台更清晰地标注人工智能生成内容的强烈呼吁。印度甚至 提出了一项法律, 要求对人工智能内容进行标注;西班牙则批准对任何未标注的内容处以3500万欧元的罚款。
一些网站正在努力追赶。TikTok 和 Meta 表示,他们已经开发出能够检测和标记人工智能视频的工具。CNBC 在 TikTok 上发现了一些被正确标记的虚假委内瑞拉视频片段。但结果参差不齐。.
另一方面,X 主要依赖于其社区评论系统。批评人士指出,该系统的反应速度不够快。等到人工智能发出警告时,数百万人已经观看并分享了相关内容。.
就连平台负责人也发出了警告。Instagram 和 Threads 的运营者 Adam Mosseri 发帖称:“所有主流平台在dentAI 内容方面都会做得很好,但随着 AI 越来越擅长模仿现实,它们在这方面的能力会逐渐下降。”
亚当 补充道:“越来越多的人和我一样认为,对真实媒体进行指纹识别比对虚假媒体进行指纹识别更实际。”

