AI 初创公司未经同意使用巴西儿童的照片训练模型

一个倡导组织揭露，图像生成器未经同意使用了数十亿张巴西儿童的照片来训练他们的 AI 模型。人权观察组织（HRW）进行的研究显示，像 Stable Diffusion 这样流行的图像生成器使用了儿童“贯穿其整个童年”的照片来训练他们的模型。

延伸阅读： 敦促科技公司打击 AI 生成的儿童性虐待材料激增

HRW 的研究显示，这些图像来自巴西约 10 个州。报告指出，这些照片对儿童构成了巨大的“隐私风险”，因为这种行为也增加了制作带有他们肖像的非自愿图像的生产。

数十亿张巴西儿童的照片被用于训练 AI 模型

HRW 研究员 Hye Jung Han 在分析了 LAION-5B 的一小部分（不到 0.0001%）后揭露了这一问题，LAION-5B 是一个基于公共网络 Common Crawl 快照构建的数据集。她 揭露该数据集并不包含实际照片，而是包含自 2008 年以来发布的近 60 亿张图片及其配文组成的“图像文本对”。

在来自巴西 10 个州的儿童照片中被发现，其中大多数是上传到育儿和个人博客上的家庭照片。据报告称，这些是互联网用户不容易偶然发现的图片。

延伸阅读： 英国将宣布制作色情深度伪造为刑事犯罪

HRW 与创建该数据集的德国非营利组织 LAION合作，移除了指向这些图像的链接。人们仍然担心，由于仅移除链接并不能完全解决问题，该数据集可能仍在引用来自世界各地的 儿童图像。

“这是一个更大且非常令人担忧的问题，作为一家志愿者组织，我们将尽我们的一份力量来帮助，”LAION 发言人 Nate Tyler 告诉 Ars。

儿童的身份很容易被追踪

HRW 的报告进一步揭示，许多巴西儿童的身份可以被追踪，因为他们的姓名和位置被用于构建数据集的配文中。报告还提出了担忧，即儿童可能面临被霸凌者针对的风险，而他们的图像可能被用于制作色情内容。

“审查的照片涵盖了整个童年时期，”报告的一部分写道。

“它们捕捉了婴儿在戴着手套的医生手中出生的亲密时刻，年幼的孩子在生日蛋糕上吹灭蜡烛，或者在家穿着内衣跳舞……”

HRW。

然而，Han 透露，“所有公开可用的 LAION-5B 版本都已下架”，因此现在巴西儿童照片被使用的风险较小。

据 HRW 称，直到 LAION 确定所有被标记的内容已被移除，该数据集才会再次可用。这一决定是在斯坦福大学的一份 报告也“发现数据集中存在指向公共网络上非法内容的链接”后做出的，其中包括超过 3,000 起疑似 儿童性虐待内容。

巴西至少有 85 名女孩报告称，她们的同学利用 AI 生成基于她们社交媒体内容照片的色情深度伪造内容来骚扰她们。

保护儿童隐私

据 Ars报道，LAION-5B 于 2022 年推出，据报道是为了 复制 OpenAI 的数据集，并被誉为最大的“免费可用图像文本数据集”。

当 HRW 就这些图像联系 LAION 时，该组织回应称，在 LAION-5B 上训练的 AI 模型“无法逐字生成儿童数据”，尽管他们承认存在隐私和安全风险。

该组织随后开始移除一些图像，但也认为父母和监护人有责任从互联网上移除儿童的私人照片。Han 不同意他们的观点，她说：

“儿童及其父母不应被迫承担保护儿童免受一种从根本上无法防范的技术侵害的责任。这不是他们的错。”

Han。

HRW 呼吁巴西立法者紧急干预，以保护儿童免受新兴技术的侵害。根据 HRW 的建议，必须制定新法律，禁止将儿童数据 Scraping 到 AI 模型中。

Cryptopolitan 记者 Enacy Mapakame 报道