内华达州学生AI色情照片激增，但“几乎无能为力”

内华达州一所高中正努力应对由其他学生使用AI在社交媒体上广泛传播的学生色情照片问题。

受害者家长似乎束手无策

内华达州故事县警长办公室目前正在调查此事。然而，调查人员表示，由于该州法律在涉及AI生成色情照片的制作和传播方面尚不明确，他们能做的很少，KCCI报道。

“我们的女儿正在受到侵害，而且似乎我们对此无能为力，”受影响学生之一的家长Chad Borwick说。 

“你不希望你的孩子遭遇不幸，你希望他们拥有更好的生活，”另一位受害者家长Ida Nady说。“他们会觉得自己不重要，他们的声音无关紧要。”

这种情况清楚地展示了AI如何被用来伤害他人。虽然AI擅长创建文本和图像，但它可能被滥用，这需要AI公司加速安全措施，特别是制定惩罚违法者的法律。

至少在爱荷华州，由参议员Chris Cournoyer（R-LeClaire）发起的一项法案预计将于7月1日生效。该法律将使在州内制作和传播未成年人全裸或部分裸体照片成为重罪，这涵盖了内华达州。

Google、Meta、OpenAI等同意审查其模型以打击儿童虐待

大型科技公司也发起了一场运动，以遏制AI制作的儿童虐待图像的增加。Google、Meta、OpenAI、Microsoft和Amazon等公司同意审查其模型，以防止AI生成的儿童性虐待材料和其他针对儿童的性伤害的制作和传播。 

此举正值在线儿童性虐待率处于历史最高水平的时期。事实上，2023年是“有记录以来最极端的一年”，据互联网观察基金会称。

这家英国组织表示，现在在开放互联网上发现了数千张涉及3至6岁儿童的图像和视频。