印度给大型科技公司九天时间，让他们完成多年都无法完成的工作。

印度刚刚 提出了一项 可能难以完成的挑战。从2月20日起，在该国运营的社交媒体公司必须对所有虚假人工智能内容进行标记，并在三小时内 删除非法深度伪造内容。然而， 目前尚无有效技术能够 做到这一点。

周二公布的这些规则向Meta、谷歌和X等平台施加压力，要求它们部署系统，在用户看到人工智能生成的图像、视频和音频之前对其 进行识别和标记。这些公司还必须 阻止用户移除或隐藏这些标签。即便拥有数十亿美元的资源，这些科技巨头也难以确保其现有检测工具的可靠性。

大多数大型平台已经在使用一种名为C2PA（内容处理与认证）的技术，它会在文件中 植入不可见的信息，以显示文件的 制作方式。这就像数字内容的营养标签。如果这项技术运行正常， 你就能分辨出照片是来自真实相机还是人工智能生成器。Facebook、Instagram、YouTube和LinkedIn 都在尝试标记这类内容，但这些标签很容易被 忽略，因此大量虚假 内容得以蒙混过关。

该系统存在 重大漏洞。用于 制作虚假裸照的开源人工智能工具和应用程序通常 完全 跳过标注过程。即使存在标注，在许多网站上，这些标注也会在文件上传过程中消失。C2PA 的支持者多年来一直声称，这项技术只需要更广泛的应用就能成功。印度即将用 5 亿社交媒体用户来检验 这一说法。

为什么印度的市场力量改变了一切

印度拥有4.81亿Instagram用户、4.03亿Facebook用户、5亿YouTube观众和2.13亿Snapchat用户。X公司将印度视为其 第三大市场。当一个如此庞大的国家制定 新规时，全球科技公司通常会调整其系统，而不仅仅局限于一个地区。

在印度 经历了数月应对深度伪造 危机之后，此次行动应运而生。据Cryptopolitan 去年10月报道，宝莱坞演员阿布舍克·巴强和艾西瓦娅·雷·巴强就使用他们面部的虚假视频提起诉讼，索赔近50万美元。这对夫妇声称， YouTube的人工智能训练器未经许可 抓取了公共内容来训练系统，这些系统随后利用他们的图像制作了虚假媒体。诸如此类的案件，以及女演员拉什米卡·曼丹娜的虚假视频在网络上疯传， 促使印度政府采取 行动。

这一时机 不谋而合 。谷歌正在维沙卡帕特南建设一座价值150亿美元的AI中心，这将成为该公司在美国以外最大的设施。该中心将拥有千兆瓦级的计算能力，预计将于2028年7月投入使用。随着如此规模的AI基础设施的到来，监管机构希望首先落实内容安全规则。

批评人士警告称，审查将“迅速进行”。

严格的下架期限令言论自由倡导者担忧。互联网自由基金会表示，三小时的下架窗口将迫使公司使用自动化系统，而这些系统可能会误删过多内容。他们 称之为 制造“快速审查员”，因为 根本没有 时间让人工仔细审查举报。

像X这样的平台 尚未建立任何人工智能标注系统，现在只有九天时间从零开始构建整个系统。Meta、谷歌和X均拒绝置评。C2PA背后的公司Adobe 也 保持沉默。

制定规则的官员似乎也 意识到现有技术 尚未成熟。规则 要求平台应“在技术可行的范围内”使用检测方法——这种法律措辞承认，完美无缺 并非必然。印度领导人相信压力能够推动创新。他们押注，当迫使科技公司要么构建更完善的系统，要么失去数亿用户的访问权限时， 这些公司会 迅速找到解决方案。

究竟是否存在更先进的人工智能检测技术可供开发，还是印度 只是命令企业交付一些目前 尚无法制造的产品 ，目前还不得而知。九天后，我们将见分晓。