AI训练数据集隐藏着令人不安的儿童性虐待材料水平

在斯坦福互联网观察站（SIO）最近进行的一项调查中，在用于训练流行AI文本到图像生成模型（包括Stable Diffusion）的开放数据集中，发现了数百个已知的儿童性虐待材料（CSAM）图像。这些发现揭示了在开发先进人工智能（AI）模型时，公开可用数据集令人不安的使用情况。

揭露令人不安的训练数据来源

SIO的调查揭示，这些AI模型是直接利用LAION-5B数据集中存在的CSAM进行训练的，该数据集包含数十亿张来自各种平台的图像，包括主流社交媒体网站和热门成人视频网站。这一发现引发了人们对通过被非法和有害内容污染的数据集无意中延续儿童剥削的担忧。

迅速采取行动解决问题

在确定来源材料后，研究人员通过向美国国家失踪与受虐儿童中心（NCMEC）和加拿大儿童保护中心（C3P）报告图像URL启动了删除过程。哈希工具（如PhotoDNA）的使用在将图像指纹与致力于打击在线儿童性剥削和虐待的非营利组织维护的数据库进行匹配方面发挥了关键作用。

清理开放数据集面临的挑战

虽然存在减少训练数据集中CSAM存在的方法，但该报告强调了在清理或停止分发缺乏中央权威的开放数据集时面临的挑战。这些数据集缺乏托管实体，使得确保其完整性和安全的努力变得复杂。该研究强调需要采取主动措施，防止非法内容无意中包含在AI训练数据中。

未来数据集处理的安全建议

鉴于这些发现，报告概述了收集数据集、训练模型以及托管基于抓取数据集训练的模型的安全建议。它主张使用Microsoft的PhotoDNA等检测工具，对图像与已知的CSAM列表进行彻底检查。还建议与NCMEC和C3P等儿童安全组织合作，以确保AI技术的道德和合法使用。

随着AI的不断进步，负责任地处理训练数据集对于防止无意中助长非法活动变得至关重要。SIO的调查为AI社区敲响了警钟，敦促利益相关者在数据集策展、模型训练以及与相关儿童保护机构的合作方面采取严格措施。

针对这些披露，AI社区被要求重新评估其道德标准，并采取果断行动解决训练数据集中CSAM的无意使用问题。通过实施推荐的安全措施，该行业可以以负责任和道德的方式促进AI技术的发展，防止不受控制的数据集来源带来的意外后果。

SIO调查的发现强调了在一个技术进步必须伴随着对道德AI发展的坚定承诺的时代，保持警惕的重要性。研究人员、行业领袖和儿童保护组织之间的合作对于确保AI技术的发展符合社会价值观并优先考虑弱势群体的福祉至关重要。