- 随着生成式人工智能工具日益普及和复杂化，互联网观察基金会（IWF）已发出警告，指出由人工智能生成的儿童性虐待材料数量可能增加。
- 互联网观察基金会已注意到，2024年制作的儿童性虐待材料比2023年的“更加逼真”。
- 该监管机构正推动立法，将制作和传播儿童性虐待材料定为刑事犯罪。
互联网观察基金会（IWF）担心，随着AI工具的进步，互联网上AI生成的儿童性虐待材料（CSAM）的普及率可能会继续上升。
延伸阅读： AI深度伪造让美国当局难以保护儿童——报告
安全监管机构表示，随着生成式AI工具变得复杂，区分真实图像或视频与伪造的AI生成内容也变得困难。据该组织称，2024年的AI生成图片变得更加“逼真”，比2023年首次出现的图片更为逼真。
互联网观察基金会发现CSAM增加
IWF担心更多 AI生成的CSAM可能会出现在互联网上 因为变态者利用 AI技术的进步，这使得 工具更容易使用且更普及。安全监管机构已经注意到互联网上AI生成的CSAM有所增加。
该组织已经注意到CSAM被操纵的案例，而其他案例涉及成人色情内容，但视频中使用了儿童的脸部。据IWF称，部分内容涉及长约20秒的视频。
IWF首席技术官Dan Sexton透露，如果AI视频工具遵循与AI图像生成工具相同的趋势，随着技术以极快的速度发展，可能会出现更多AI生成的CSAM。
“我初步认为，如果遵循相同的趋势，我们将看到更多视频，”他说。
Sexton补充说，未来AI视频具有“更高质量和逼真度”的可能性也很高。
据IWF分析师称，该组织在暗网论坛上由恋童癖者审查的大多数视频都是部分深度伪造。在这种情况下，利用在线免费使用的AI模型来操纵图像，包括已知CSAM受害者的图像，将其应用于现有的CSAM视频和成人色情内容中。
该组织发现了九个此类视频，而少量完全由AI制作的视频质量基本。
(1/4) #AI儿童性虐待材料（CSAM）现状——去年，我们是最早对逼真的#AI生成儿童性虐待图像泛滥发出警报的机构之一…… pic.twitter.com/s4igkjHH78
——互联网观察基金会（IWF）(@IWFhotline) 2024年7月22日
监管机构希望将生产CSAM定为刑事犯罪
IWF现在正推动立法，将制作此类材料（包括制作此类内容的指南）定为刑事犯罪。它还应将为创建CSAM提供工具和平台的开发定为刑事犯罪。
与此同时，今年对单个暗网论坛进行的一项研究显示，在为期一个月的时间内发布了12,000张新的AI生成图像。
据IWF称，其中十分之九的图像是逼真的，可以根据涵盖真实CSAM的相同英国法律对其进行起诉。
延伸阅读： 德克萨斯州男子因使用加密货币购买儿童色情制品被判刑
去年，美国国家失踪与受剥削儿童中心（NCMEC）表示，它收到了大量报告，称变态者以各种方式使用AI，例如输入文本提示来创建儿童虐待图像。在某些情况下，掠食者修改了之前上传的图片，使其具有性暗示和虐待性质。
IWF首席执行官Susie Hargreaves强调，需要监管生成式AI工具，以限制CSAM的泛滥。
“如果没有适当的控制，生成式AI工具为网络掠食者实现其最变态和令人作呕的幻想提供了游乐场，”Hargreaves说。
Hargreaves补充说，IWF开始看到更多CSAM在商业儿童性虐待网站上被分享和销售。
据《卫报》报道，另一个运营举报虐待热线的组织表示，它发现罪犯在网上平台上出售AI制作的CSAM。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Enacy Mapakame
Enacy Mapakame 是一位拥有超过 10 年商业与财经新闻经验的记者。她专注于资本市场及新兴技术领域，涵盖元宇宙、人工智能和加密货币。Enacy 拥有媒体与社会研究荣誉学士学位。
