旧金山市宣布了一项重大举措，对 16 个创建和传播人工智能生成的成年人甚至未成年人裸体照片的网站提起诉讼。.
旧金山市检察官大卫·邱在推特上发文称，这些网站传播未经同意的成年人和未成年人的深度伪造裸照。邱在推文，这些网站的拥有者和运营者违反了州和联邦法律，这些法律禁止深度伪造色情、复仇色情和儿童色情。
根据《纽约时报》，这些网站背后的个人和公司分别位于加利福尼亚州、新墨西哥州、英国和爱沙尼亚。
16个网站的总访问量达到了2亿次。
邱指出，这16个网站今年上半年的总访问量达到了2亿次。这些网站中，有些甚至允许用户免费创建裸照，之后才开始对更多照片收费。有些网站甚至接受加密货币和信用卡支付。.
据该市检察官称，该网站的人工智能模型使用真实的色情和虐童图片进行训练，以生成人工智能生成的深度伪造图像。这些网站甚至经过训练，能够在短短几秒钟内推送逼真的私密部位图像。.
该网站的人工智能模型甚至制作了泰勒·斯威夫特的深度伪造视频。
该网站的人工智能模型甚至生成了泰勒·斯威夫特等名人以及初中女生的逼真裸照。在某些情况下，这些照片甚至被用来羞辱、骚扰受害者，甚至骗取钱财。.
其中一名受害者的母亲萨拉·艾森伯格表示：“你可以非常精通互联网和社交媒体，你可以教你的孩子所有保护自己上网的方法，但这些都无法保护他们免受利用这些网站做真正可怕、有害的事情的人的侵害。”
邱女士还提到，一旦这些图片开始流传，就几乎不可能 trac其来源。该诉讼旨在关闭这些网站，并永久禁止它们未来制作人工智能生成的裸体图片。.
邱指出，虽然人工智能在全球各个方面都有其积极作用，但深度伪造色情问题是其阴暗面之一。.
