OpenAI的病毒式AI视频应用Sora引发深度伪造争议

- OpenAI 的 Sora 2 应用融资达 66 亿美元,成为苹果 App Store 上第三大热门应用。
- 尽管采取了安全措施,用户仍利用该应用制作深度伪造和露骨内容,导致该应用面临批评。
- OpenAI 正与 Meta、Google 等公司展开竞争,并大力投资新一代 AI 模型。
OpenAI最新的AI视频应用Sora 2在近期通过股份出售筹集66亿美元后迅速走红,巩固了这家科技巨头作为全球最有价值私营公司的地位。
在应用登上苹果App Store第三名后,尽管用户需要邀请码才能访问,但取得了这一成功。此外,它还导致了深度伪造视频的兴起,包括一段据称是CEO Sam Altman窃取GPU的知名视频。
与此同时,此次发布引发了关于在科技公司内平衡安全与表达创意的持续讨论。
随后,一位熟悉OpenAI战略的内部人士(因情况保密要求匿名)指出,公司管理层认为实施严格规则至关重要,但也担心这些规则会限制创意或显得过于控制。迄今为止,这一问题尚未得到解决。
OpenAI采用速度以保持竞争优势
这种策略在中国DeepSeek去年年底推出了一款比硅谷任何产品更便宜、开发更快的强大模型后变得尤为明显。
作为回应,OpenAI迅速推出了 两款新模型 ,在几周内完成,多位分析师认为这是保持其竞争优势的方法。值得注意的是,其不断增强的机构实力是这家科技巨头战略的重要助推器。
最初,它只是旧金山Mission District的一家小型研究实验室。它已发展成为一家更有组织性的公司,使其能够快速组建跨职能团队,并加速Sora等产品的开发和发布流程。
关于Sora, OpenAI 指出该产品具有多层保护机制,旨在防止创建不安全内容。该公司补充说,它使用提示过滤和视频帧及音频转录的输出审核。
这家科技巨头还指出,该应用禁止露骨内容、恐怖主义宣传以及促进自残的内容。此外,Sora使用水印,并禁止模仿他人肖像。然而,一些用户已经发现了绕过这些安全措施的方法。
OpenAI的内容因安全问题受到批评
关于OpenAI的视频应用,可靠消息来源指出,几段著名视频展示了Altman,他在获得许可后允许其肖像在平台上使用。相比之下,其他视频则涉及皮卡丘和海绵宝宝等流行卡通角色处于性露骨场景。
这些内容引发了批评,认为 OpenAI 在缺乏充分保护的情况下仓促推进。此外,除非版权持有人选择排除自己,否则他们使用受版权保护的材料符合公司现行政策,尽管该公司继续面临法律挑战。
Altman对此类担忧不予理会;他在X上发帖表示,Sora旨在展示技术能力,并为OpenAI与通用人工智能(AGI)相关的更广泛目标产生商业兴趣。
此次发布正值竞争加剧之际。上周,Meta推出了 Vibes,这是其Meta AI应用中的一个新短格式AI视频流。Google也在开发Veo 3,而ByteDance和 阿里巴巴 也推出了竞争系统。
与此同时,OpenAI刚刚宣布另外8,500亿美元的投资,以加倍投入基础设施并投资下一代模型。专家表示,向视频转型是为了通过另一款引人入胜的消费应用吸引更多用户。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗?加入他们。

Nellius Irene
Nellius 是一位商业管理与信息技术专业毕业生,拥有五年加密货币行业经验,同时也是 Bitcoin Dada 的毕业生。她曾为多家领先的媒体出版物撰稿,包括 BanklessTimes、Cryptobasic 和 Riseup Media。
















