斯坦福报告揭示AI训练数据中存在儿童色情内容

斯坦福互联网 Observatory 发现了一个令人不安的事实：在用于训练AI图像生成器的数据集LAION-5B中，存在超过1000张虚假的儿童性虐待图像。这一发现于4月公开，引发了人们对AI训练材料来源和编译方法的严重担忧。

LAION-5B与总部位于伦敦的Stability AI的Stable Diffusion AI图像生成器相关联，它通过从社交媒体和色情网站采样内容来积累这些图像。考虑到这些平台的广泛使用和潜在影响力，在AI训练材料中发现此类内容令人震惊。

用技术应对挑战

斯坦福研究人员在识别这些图像的过程中，并没有直接查看虐待内容。相反，他们利用了微软的PhotoDNA技术，这是一种通过匹配哈希图像与来自各种数据库的已知虐待内容来检测儿童虐待图像的工具。

斯坦福团队的发现已告知美国和加拿大的相关非营利组织，这凸显了在整理AI训练数据集方面采取更严格措施的紧迫性。研究人员建议使用PhotoDNA等工具来过滤有害内容，用于未来的数据集编译。然而，他们也强调了清理开放数据集面临的挑战，特别是在缺乏集中托管机构的情况下。

作为对该报告的回应，LAION（大规模人工智能开放网络）暂时删除了其数据集，以确保安全后再重新发布。LAION强调其对非法内容的零容忍政策，以及在处理此类敏感材料时需要谨慎。

更广泛的影响与回应

这个问题不仅限于所讨论的数据集。斯坦福报告指出，即使是少量的虐待图像也可能对AI工具产生重大影响，使其能够生成数千个深度伪造视频。这对年轻人和儿童构成了全球性威胁，因为它不仅延续了对真实受害者的虐待，还加剧了这种虐待。

许多生成式AI项目急于推向市场，受到了批评。斯坦福互联网 Observatory 的首席技术专家David Thiel等专家主张对数据集编译给予更严格的关注。Thiel强调，这种广泛的互联网范围抓取应仅限于研究操作，并在未经彻底审查的情况下不应开源。

鉴于这些发现，LAION数据集的主要用户Stability AI已采取措施减轻滥用风险。其Stable Diffusion模型的较新版本旨在使创建有害内容变得更加困难。然而，去年发布的旧版本仍然存在风险，并被广泛应用于其他应用中。

国际社会对此问题的反应各不相同。在美国，政府正在启动一个AI安全研究所，以评估AI模型带来的风险。同样，澳大利亚正在实施新算法，以防止分享AI创建的儿童性虐待材料。在英国，领先的AI开发商已同意与政府合作，在新模型发布前进行测试。

在英国举行的全球AI安全峰会上，包括美国、印度以及欧盟在内的25个国家签署了《布莱切利宣言》。该协议旨在建立AI监管的共同方法，强调了国际社会负责任地管理AI风险的承诺。

在AI训练数据集中发现儿童色情内容引发了深刻的伦理和安全担忧。它凸显了在开发AI技术时需要更严格的数据整理和监控机制。随着AI不断演变并渗透到生活的各个方面，确保这些技术的道德使用和部署变得日益重要。