大型科技公司能否通过内容水印确保AI安全？

为应对AI安全问题，大型科技公司承诺采用自愿性准则，例如使用水印帮助用户识别AI生成的内容，作为其遏制AI滥用和误用努力的一部分。亚马逊、Anthropic、Google、Meta、Microsoft、OpenAI和机器学习初创公司Inflection等公司与拜登政府达成协议，同意接受独立专家的测试。此举正值生成式AI技术普及和投资热潮之际，促使全球立法者考虑制定法规以保障国家安全和经济。

应对AI技术方面的担忧

生成式AI的迅速崛起引发了人们对各种领域潜在风险的担忧。生成式AI利用数据创建类人内容。今年6月，美国参议院多数党领袖查克·舒默呼吁制定全面的立法，以确保人工智能有适当的保障措施。为解决这些担忧，国会正在审议一项要求政治广告披露是否使用AI生成内容的法案。

乔·拜登总统正积极致力于制定行政命令和两党立法，以进一步监管AI技术。作为这一努力的一部分，七家主要AI公司的高管于周五在白宫聚集，讨论他们的承诺。这些公司同意为所有形式的AI生成内容（包括文本、图像、音频和视频）开发水印系统。这种水印技术旨在向用户提供清晰的指示，表明何时使用了AI技术来创建内容。

水印增强AI安全

拟议的水印系统预计将在打击与AI生成内容相关的潜在危险方面发挥重要作用。通过在内容中技术上嵌入水印，用户将更好地识别可能描绘不存在的暴力行为、促进诈骗或使政客形象受损的深度伪造图像或音频。然而，关于水印在信息共享过程中如何显现的细节尚未明确。

数字水印可验证载体信号的真实性和完整性，或显示其所有者的身份。水印不仅能阻止个人泄露文件，而且如果发生泄露，当文件上带有允许接收者姓名的水印时，可以轻松识别泄露来源。数字水印技术以不易察觉的方式将识别信息嵌入数据载体中，且不影响数据的使用。该技术通常用于保护多媒体数据的版权，并保护数据库和文本文件。

超越水印的承诺

这些公司的承诺不仅限于水印，还延伸到在AI技术发展过程中保护用户隐私。他们还发誓确保其AI系统没有偏见，并避免被用于歧视弱势群体。这些公司表示，他们将公开报告其AI系统的能力和局限性，以及其道德使用的准则。这些公司计划开展关于AI带来的社会风险的研究。此外，这些公司承诺部署AI解决方案以解决科学挑战，如医疗研究和减缓气候变化。

AI安全向前迈进

这些主要AI公司做出的自愿承诺标志着在应对AI技术相关安全问题方面迈出了重要一步。随着行业领导者的合作和持续的监管努力，人们乐观地认为，AI可以在遵守负责任实践的同时继续蓬勃发展。

随着生成式AI继续获得普及和投资，全球监管者和立法者专注于应对潜在风险。顶级AI公司承诺实施水印措施并通过负责任的做法增强安全，这是该领域的一个积极发展。拜登总统致力于制定行政命令和两党立法，进一步强调了确保AI技术安全和道德使用的重要性。在行业利益相关者和监管机构之间的持续合作下，AI可以在减轻社会风险的同时释放其潜力。