旧金山市检察官提起诉讼，要求关闭人工智能驱动的深度伪造裸体网站

旧金山市检察官大卫·邱宣布，他的办公室正在对16个利用人工智能技术制作和传播未经女性和女孩同意的深度伪造裸体图像的网站提起诉讼。此前，人工智能未经同意制作和传播此类图像的行为已引起广泛关注。.

邱表示，这起诉讼是旧金山首例此类诉讼，指控这些网站的运营者违反了州和联邦法律，这些法律谴责深度伪造色情、儿童色情和复仇色情材料，以及加利福尼亚州的反不正当竞争法。.

邱先生希望就这种不良做法发出警报。

据《 纽约时报》，这项举措是首席副检察官伊冯娜·梅尔的想法，她号召同事们起草了一份诉讼，该诉讼应该会导致 16 个网站关闭。

周四向公众提供的诉讼副本中，这些网站的名称已被审查。.

虽然检察官办公室表示尚未dent大多数网站的所有者，但该办公室的官员对找到网站所有者的姓名并追究其责任表示乐观。.

上 新闻发布会 ，邱女士透露，这些网站制作未经同意的“色情”内容。除了呼吁制止这种“性虐待”行为外，邱女士还暗示，诉讼也应该导致这些网站关闭。

“这项调查把我们带到了互联网最黑暗的角落，我为那些不得不忍受这种剥削的妇女和女孩感到无比震惊。”

邱。.

在这些网站上，用户上传衣着完整的真人照片，并利用人工智能技术生成裸体女性和女孩的图像。这些网站的人工智能模型使用真实的色情内容和儿童虐待图片进行训练，以制作深度伪造图像。.

正如诉讼中所述，其中一个网站宣扬这些照片未经同意的性质， 并声称： “想象一下，与其浪费时间带她出去约会，不如直接使用[已编辑的网站名称]来获取她的裸照。”

开源人工智能模型的可用性和可及性使得任何人都能轻松访问和定制人工智能引擎以满足自身需求。这催生了许多网站和应用程序，它们可以从零开始生成深度伪造裸照，或者以逼真的方式“裸化”现有照片，而这些服务通常需要付费。.

旧金山并非唯一面临这一挑战的地方。

今年一月，泰勒·斯威夫特的伪造裸照在网上疯传，深度伪造应用程序因此成为新闻焦点。在此之前和之后，许多其他名气远不如她的人也遭受过类似的攻击。.

邱承认，“这些图像的泛滥剥削了全球范围内数量惊人的女性和女孩”，从名人到中学生都dent。.

市检察官办公室通过自身调查发现，这些网站在今年前六个月的访问量超过2亿次。该办公室表示担忧，一旦照片被上传到网上，受害者就很难确定哪些网站被用来“处理”他们的裸照。.

这是因为这些图片没有任何独特的或dent的标记，无法追溯到原网站。此外，受害者也很难从互联网上删除这些照片，这会影响他们的steem 和数字足迹。.

今年早些时候，五名比佛利山庄的 八年级学生 因制作和分享 16 名八年级女生的深度伪造裸照而被开除，他们将女生的脸叠加到人工智能生成的身体上。

在加利福尼亚州、新泽西州和华盛顿州的其他学校也发现了类似的案例，这些图片被用来羞辱、欺凌和威胁妇女和女孩。.

检察官办公室表示，对受害者的最终影响是：名誉受损、精神健康受损、steem丧失，在某些情况下，甚至导致个人产生自杀倾向。.