旧金山地检长起诉关闭AI驱动的深度伪造裸照网站

旧金山地检长大卫·邱宣布，他的办公室正在对16个使用AI开发和分发女性和女孩非自愿深度伪造裸照的网站提起诉讼。这发生在人们对AI非自愿图像的制作和分发高度关注的背景下。

据邱称，这项诉讼是旧金山首例此类诉讼，指责网站运营商违反谴责深度伪造色情、儿童色情和报复性色情材料以及加州不公平竞争法的州和联邦法律。

邱希望引起对此不良做法的关注

据《纽约时报》报道，该倡议是首席副检察官伊冯·梅尔的想法，她动员同事起草了一项诉讼，这将导致16个网站被关闭。

周四向公众提供的诉讼副本中，这些网站的名称被审查了。

虽然检察官办公室表示尚未确定大多数网站的所有者——该办公室官员对找到网站所有者姓名并让他们承担责任表示乐观。

在周四的新闻发布会上，邱透露这些网站制作非自愿的“色情”材料。除了发出警报并终结这种形式的“性虐待”外，邱还暗示诉讼也应关闭这些网站。

“这项调查带我们去了互联网最黑暗的角落，我对不得不忍受这种剥削的女性和女孩感到绝对震惊。”

邱。

在这些网站上，用户上传穿着整齐的真实人物照片，并利用AI创建女性和女孩的裸体图像。这些网站的AI模型在真实色情内容和儿童虐待图片上进行训练，以制作深度伪造内容。

根据诉讼书，其中一个网站宣扬图像的非自愿性质，声称，“想象一下浪费时间在约会上，当你可以使用[脱敏网站名称]来获取她的裸照时。”

开源AI模型的可用性和可访问性使得任何人都可以轻松访问和适应AI驱动引擎以实现其目的。这导致创建可以从头生成深度伪造裸照或以逼真方式“去除”现有照片的网站和应用，通常收费。

旧金山并非唯一见证这一挑战的地方

今年1月，深度伪造应用因泰勒·斯威夫特的假裸照在网上疯传而成为头条新闻。在斯威夫特之前和之后，许多其他知名度较低的人也受到了迫害。

邱承认，“这些图像的泛滥剥削了全球范围内令人震惊数量的女性和女孩”，从名人到初中生。

通过自己的调查，地检长办公室发现，这些网站在今年前六个月的访问量超过2亿次。该办公室表示担忧，一旦图像上线，受害者就很难确定哪些网站被用来“去除”他们的照片。

这是因为图像没有任何独特或可识别的标记，人们无法将其追溯回网站。此外，受害者也很难从互联网上删除这些照片，这影响了他们的自尊心和数字足迹。

今年早些时候，五名比弗利山庄八年级学生因生成和分享16名八年级女生的深度伪造裸照而被开除，这些照片将女生的脸叠加在AI生成的身体上。

在加利福尼亚州、新泽西州和华盛顿州的其他学校也观察到了类似案例，这些图像被用来羞辱、欺凌和威胁女性和女孩。

检察官办公室表示，对受害者的净影响是毁灭性的，损害他们的声誉，遭受心理健康问题，失去自尊心，在某些情况下，导致个人产生自杀念头。