新工具“Nightshade”挑战AI文生图技术

生成式AI技术（如OpenAI的ChatGPT）在自然语言处理方面取得了显著进展。然而，这些AI模型依赖于从网络上抓取的海量数据集，这引发了艺术家和摄影师的担忧，因为他们的作品在未经同意或未获补偿的情况下被使用。

艺术家与摄影师 vs. 生成式AI

生成式AI工具可以根据文本提示创建图像，但它们依赖于抓取的在线图像进行训练。这导致艺术家和摄影师对其创意作品在未经同意的情况下被使用表示不满。他们正在寻求保护其知识产权的方法。

Nightshade：一种混淆AI模型的工具

一个研究团队开发了一款名为“Nightshade”的工具来应对这一问题。Nightshade旨在通过在艺术品上传到网络之前向其中引入不可见的像素来破坏AI训练模型。这一过程会“毒化”训练数据，导致AI模型在响应提示时生成不准确的图像。

对AI模型的影响

据《MIT技术评论》报道，Nightshade的使用可能会损害DALL-E、Midjourney和Stable Diffusion等图像生成AI模型的后续版本。这些模型可能会产生狗变成猫、汽车变成奶牛等错误的输出结果。Nightshade背后的研究已提交同行评审，突显了其重要性。

权力平衡：艺术家 vs. 科技公司

Nightshade为寻求保护其作品的艺术家带来了一丝希望。领导该研究团队的芝加哥大学教授Ben Zhao表示，该工具可能会将权力平衡重新转向内容创作者。这是对忽视版权和知识产权的科技公司的一种警告。

问题的规模

大型AI模型使用的数据集包含数十亿张图像，因此被毒化的图像影响巨大。整合到这些模型中的被毒化图像越多，造成的破坏就越大，可能会重塑AI格局。

开源协作与伦理使用

Nightshade背后的团队计划将其作为开源工具发布，邀请他人完善和提高其有效性。他们强调，Nightshade应被视为内容创作者应对无视其权利的网页抓取者的最后手段。

保护艺术家权利的挑战

DALL-E的创造者OpenAI最近开始允许艺术家从其训练数据中移除他们的作品。然而，这一过程因繁琐而受到批评，要求艺术家为每张想要移除的图像单独提交请求。简化这一移除流程可能会阻止艺术家诉诸Nightshade等工具，这可能会对AI开发者产生长期的负面影响。

随着寻求保护其知识产权的艺术家与训练其模型的AI开发者之间的斗争加剧，Nightshade等工具可能成为内容创作者的重要武器。在人工智能不断发展的格局中，AI的伦理使用和版权尊重变得越来越重要。