科技公司被敦促遏制人工智能生成的儿童性虐待材料激增

英国慈善机构互联网观察基金会（IWF）称去年是“有记录以来最极端的一年”，该机构发现网上有令人震惊的275,652张儿童性 虐待 图像，其中相当一部分是施虐者胁迫受害者制作露骨材料。该机构呼吁科技公司和网络平台迅速采取行动，因为监管力度有所减弱，而且人工智能技术也在不断发展。

报告称，“每个 URL 可能只会显示一张、十几张、几百张甚至几千张儿童性虐待图片或视频”，（92%）（通过网络摄像头进行自我虐待、胁迫或社交网络的帮助）。.

国际妇女联合会调查结果

据国际妇女论坛（IWF）称，这些数据来源于“主动搜索”以及对全球50多个报告门户网站提交的近40万份报告的分析。这比上一年增长了8%。.

美国是网站数量最多的国家，占总数的 14.8%，拥有 41,502 个网址，比上一年增长了 1%，占所有被纳入统计的网站的 34%，占总数的三分之一。.

国际妇女基金会表示，分析显示，有2401个3至6岁儿童的自制视频被归类为此类案件。这些儿童大多是女孩，这表明，如今被认为是“机会主义者”的施虐者不仅对青少年子女实施性虐待，也对幼童实施性虐待，情况十分活跃。.

应采取的措施 

国际妇女论坛（IWF）认为，“科技公司和在线平台”应该立即加强对儿童网络安全的保护措施，而不是依赖政府采取繁琐的监管行动，或者等待英国的《网络安全法》生效。IWF透露，与2022年相比，此类极端内容的数量也增加了22%。IWF指出，极端内容的浏览量日益增长是当前趋势之一；从2021年到2022年，A类内容的数量增长了38%。. 

性勒索案件数量也在不断增加——犯罪分子利用儿童照片/文件、信息或视频，以此勒索受害者，索取更多照片/金钱。该机构在2021年引入收费机制时，仅记录了6起此类案件。而去年，该​​机构表示，他们处理了176起与性勒索相关的案件。该基金会强调， 人工智能 接收和生成的证据正对互联网上的儿童构成严重威胁。2023年，国际妇女基金会（IWF）统计，他们处理了51个包含自动生成的儿童性虐待图像的网页，其中38个看起来非常逼真。 

这样一来，它们就被当作“真实”图像收录在统计报告中。此外，还有228个网址包含人工智能生成的内容。尽管国际妇女基金会（IWF）审查的材料中只有一小部分是计算机生成的，但该慈善机构仍然对此感到担忧，因为“存在快速增长的潜力”。尤其是在一些领域，例如发布关于如何通过人工智能创建或传播儿童色情材料的手册，这些内容可能游离于现有的法律框架之外。IWF表示，他们在德国之声（DW）上发现了一份文本 手册， 其中解释了犯罪分子如何“协同行动，互相建议和鼓励使用人工智能进行自卫”。IWF评论道：“我们以前也见过这种行为，但这是首次发现犯罪分子串通起来，互相建议和鼓励使用人工智能进行自卫，这尤其令人不安。”