联合国儿童基金会（UNICEF）周三指出，有报告显示，互联网上流传的AI生成的性化图像数量激增。这些AI生成的图像主要包括对儿童照片进行篡改和性化的案例。.
该机构指出，人工智能图像或视频生成工具的兴起，以及由此产生的儿童性虐待材料的泛滥，加剧了儿童通过数字技术面临的风险。联合国儿童基金会 UNICEF）还呼吁各国政府和业界采取紧急行动，防止人工智能生成的儿童性内容的制作和传播。.
人工智能生成的性化内容会对儿童造成长期的情感伤害。
滥用深度伪造技术就是滥用。.
利用人工智能工具生成或篡改的儿童性化图像、视频或音频属于儿童性虐待材料。即使没有dent的受害者，它也会使性剥削儿童的行为正常化。.
UNI欧洲经济论坛呼吁采取紧急行动防止……
— UNI CEF (@ UNI CEF) 2026年2月4日
联合国机构指出，不到五年前，高质量的生成模型需要强大的计算能力和专业知识。然而，目前的开源模型却让犯罪分子更容易制作性虐待内容。.
该机构认为，虽然没有真正的儿童直接参与其中，但此类内容会使儿童性化正常化，并使受害者身份dent。UNI还指出，犯罪者可以在儿童不知情或未参与的情况下制作出逼真的儿童性图像。
联合国儿童基金会UNICEF）表示，此类内容可能侵犯儿童的受保护权利，而儿童甚至可能对此毫不知情。该机构还指出，儿童会因此面临羞耻感、污名化、来自同龄人和成年人的更多评判、社会孤立以及长期的情感伤害。.
UNI CEF）还指出，人工智能图像或视频生成工具的普及导致儿童性虐待材料（CSAM）的制作和传播激增。英国互联网观察基金会（IWF）仅在一个月内，就在一家专门传播儿童性虐待材料的暗网论坛上发现了约14000张疑似人工智能生成的图像。该报告披露，其中三分之一的材料属于犯罪材料，并且是首批逼真的儿童性虐待人工智能视频。
国际妇女基金会还发现了3440个利用人工智能技术制作的儿童性虐待视频，比上一年发现的13个视频激增了26362%。其中2230个（65%）视频因内容极其极端而被归类为A类，另有1020个（30%）被归类为B类。.
妇女基金会（IWF）还dent主流平台上存在人工智能儿童性虐待材料，其中包括在点对点环境下针对女孩制作的深度伪造裸照。该组织还指出，韩国执法部门报告称， 2022年至2024年间，涉及人工智能和深度伪造技术的性犯罪案件激增了10倍。
人工智能和深度伪造技术主要针对青少年，他们占被告的大多数。索尼的调查发现，美国十分之一的青少年知道有朋友使用人工智能工具制作未经同意的儿童私密照片。
UNI CEF）、ECPAT国际组织和国际刑警组织还发现，到2025年，11个国家约有120万儿童的图像被人工智能工具篡改成色情深度伪造图像。这些机构还报告称，在约11个国家中，多达三分之二的儿童担心人工智能可能被用于制作虚假的色情图像。
联合国儿童基金会UNICEF）认为，家长和监护人需要了解人工智能赋能的性剥削和性虐待问题。该机构还呼吁学校对dent进行人工智能相关风险及其对受影响个体造成的伤害的教育。.
由于Grok公司使用带有性暗示的AI深度伪造技术，一些国家与其划清界限。
UNI CEF）发布这份报告之际，埃隆·马斯克的AI工具Grok也推出了新功能，防止该工具在禁止此类行为的国家/地区编辑真实人物照片，使其穿着暴露的服装。此前，人们对AI深度伪造技术引发的性暗示问题普遍感到担忧。
英国政府呼吁X公司管控Grok，而监管机构Ofcom表示正在夜以继日地修复该问题。X公司表示，该公司已对所有用户通过Grok账户以及在Grok应用内生成身着比基尼、内衣及类似服装的真人图片的功能进行了地域限制，尤其是在禁止此类内容的国家/地区。
马来西亚和印度尼西亚上个月初也因Grok能够生成露骨的深度伪造视频而封禁了其服务Cryptopolitan 有报道称，在 X 承诺改善对印尼法律的遵守情况后，印尼已允许 Grok 恢复运营。
