- 检察官表示，针对儿童的 AI 深度伪造色情内容令执法部门陷入噩梦。
- 这些图像逼真得令人难以分辨真实儿童是否遭受了虐待。
- 去年，关于儿童的网络虐待报告数量达到 36 百万起。
检察官和安全组织警告说，儿童色情人工智能深度伪造的巨大数量使得美国执法部门难以区分处于困境的真实儿童和虚假儿童。他们说，这些图像如此逼真，以至于很难知道真实儿童是否受到虐待，《卫报》报道。.
延伸阅读： 由ChatGPT驱动的泰迪熊Poe为孩子们读睡前故事
明尼苏达州儿童安全非营利组织Zero Abuse Project的高级律师Kristina Korobov表示，该组织开始注意到使用人工智能制作的真实儿童图像的报告，这些儿童并未受到性虐待。“但现在他们的脸出现在一个受虐待的儿童身上，”她说。
司法部检察官称“我们被淹没了”由于人工智能
“有时，我们能认出视频或图像中的床铺或背景、肇事者，或它所属的系列，但现在另一个孩子的脸被放到了上面，”Korobov告诉 卫报。
人工智能模型每天能够生成数千张与真实照片相似的图片。根据报道，这使得掠夺者更容易利用该技术在互联网暗网和主流互联网上传播令人不快的内容。
对于当局来说，这已成为一场噩梦。“从执法角度来看，针对儿童的犯罪是资源最匮乏的领域之一，人工智能的内容将会爆炸式增长，”美国司法部（DoJ）一名检察官说，并补充道：
“我们已经在这种东西中溺水了。”
美国国家失踪和受剥削儿童中心（NCMEC）表示，2023年，在线儿童虐待报告增加了12%，达到3620万。虽然大多数报告与真实照片和视频的传播有关，涉及性虐待儿童，但该中心还收到了4700起涉及儿童性剥削的人工智能深度伪造图像或视频的报告。
NCMEC表示，掠夺者使用人工智能的最常见方式包括编辑现有的在线图像使其变得露骨。犯罪分子还利用生成式人工智能聊天机器人，提供关于如何招募儿童进行虐待的图形说明。
现行法律在人工智能深度伪造方面还不够深入
在什么可以被视为犯罪方面似乎存在差距。在许多司法管辖区，持有性物化儿童的图像是犯罪，但法律尚未发展到纳入人工智能生成的图像。
“在联邦系统中对案件进行起诉时，”司法部检察官表示，“人工智能并没有改变我们可以起诉的内容，但在许多州，你必须能够证明它是真实的儿童。”检察官补充道：
“对图像的真实性吹毛求疵会在审判中引发问题。如果我是辩护律师，这正是我会提出的论点。”
即使法律颁布，用于抓捕罪犯的技术仍然需要，而目前存在巨大差距。儿童安全组织警告称，警察局可能会收到大量请求。
延伸阅读： 联合国秘书长警告称，人工智能使核战争的可能性增加
据《卫报》报道，使用人工智能生成的儿童色情图像大约在2022年开始增加其在线 足迹，这与OpenAI发布ChatGPT coinciding。
美国国家失踪与受剥削儿童中心（NCMEC）指责人工智能公司未能充分防止剥削性内容的生成和传播。去年，仅有五家人工智能公司自愿向该中心提交报告。相比之下，70%的社交媒体平台分享了他们的报告。
最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Jeffrey Gogo
Jeffrey Gogo 是一位拥有 20 年商业、金融及气候变化新闻与分析经验的记者。他的作品曾发表于汤森路透基金会、《津巴布韦先驱报》以及多家在线出版物。他还广泛撰写过关于人工智能和元宇宙的文章，并于 2017 年开始涉足加密货币市场。Gogo 在哈拉雷的 CCOSA 学习了新闻与大众传播专业。
