敦促科技公司打击激增的AI生成儿童性虐待材料

去年，英国慈善机构互联网观察基金会（IWF）称其为“有记录以来最极端的一年”，该机构发现网上令人不安的275,652起儿童性虐待图像，其中令人恐惧的是，许多受害者是被掠食者胁迫制作露骨材料——呼吁科技公司和在线平台迅速采取行动——因为监管进展缓慢，而人工智能

“每个URL只能揭示一个、十几个、几百个甚至数千个单独的儿童性虐待图像或视频，”报告称（92%）（通过自己或胁迫或借助社交网络在摄像头前进行）。”

IWF调查结果

根据IWF的说法，这些数字源自“主动搜索”以及对全球近400,000份报告的分析，这些报告来自50多个报告门户。这比前一年增加了8%。

美国是网站数量最多的国家，占14.8%，有41,502个URL，比该国作为主机在过去一年中的比例34%有所上升，占所有附属网站的三分之一。

IWF表示，分析显示，2,401个3-6岁儿童的自生成视频不包括在内。大多数这些孩子是女孩，这是一个标志，表明如今被认为是“机会主义者”的虐待者不仅在青少年中，而且在年幼的孩子中也非常活跃地进行性虐待。

采取措施 

IWF的立场是，“科技公司和在线平台”应立即加强儿童在线的安全措施，而不是依赖政府采取非常痛苦的监管行动，或花费更多时间让英国的《在线安全法》生效。IWF透露，该材料类别与2022年相比也增加了22%。IWF表示，这种极端内容被越来越频繁地观看是一个趋势；从2021年到2022年，A类内容的数量增加了38%。 

性勒索案件的数量也在增加——即利用儿童的照片/文件、信息或视频，施害者随后利用这些内容进行勒索以获取更多照片/金钱——的情况也在增加。该机构在2021年引入报告机制时仅记录了6起此类案件。去年，该机构表示，该机构看到了176起与性勒索相关的案件。基金会强调，人工智能接收和生成的证据正成为互联网上儿童面临的严重威胁。2023年，IWF得出结论，它处理了51个包含儿童性虐待自动生成图像的网页，其中38个看起来像是真实的。

因此，它们被包含在统计报告中作为“真实”图像。此外，还有228个URL包含AI生成的内容。虽然IWF审查的材料中只有很小一部分是计算机生成的，但该慈善机构对此感到震惊，因为“快速增长的潜力”。尤其是在发布有关如何通过AI创建或分发儿童色情材料的手册等领域，这可能会超出现有的法律框架。IWF表示，它在DW上遇到了一篇文本手册，解释了施害者“我们以前见过这种行为，但这是罪犯协同行动、互相建议和鼓励使用AI进行自卫的第一个证据，这尤其令人不安”IWF据称评论道。