新工具“Nightshade”挑战人工智能文本转图像技术

生成式人工智能技术，例如 OpenAI 的 ChatGPT，在自然语言处理领域取得了显著进展。然而，这些人工智能模型依赖于从网络上抓取的大量数据集，这引发了艺术家和摄影师的担忧，因为他们的作品未经许可或未获得补偿就被使用。.

艺术家和摄影师 vs. 生成式人工智能

生成式人工智能工具可以根据文本提示生成图像，但它们依赖于从网上抓取的图像进行训练。这引发了艺术家和摄影师的不满，他们认为自己的作品未经许可就被使用。他们正在寻求保护自身知识产权的方法。.

Nightshade：一款迷惑人工智能模型的工具

为了解决这个问题，一个研究团队开发了一种名为“Nightshade”的工具。Nightshade 的设计原理是在艺术作品上传到网络之前，向其中植入不可见的像素，从而干扰人工智能训练模型。这一过程会“污染”训练数据，导致人工智能模型在响应指令时生成不准确的图像。.

对人工智能模型的影响

《麻省理工科技评论》报道称，Nightshade 的使用可能会对未来类似 DALL-E、Midjourney 和 Stable Diffusion 等图像生成 AI 模型的迭代造成潜在损害。这些模型可能会生成诸如狗变成猫、汽车变成牛等异常图像。Nightshade 背后的研究已提交同行评审，凸显了其重要性。.

权力平衡：艺术家与科技公司

Nightshade 为寻求保护其作品的艺术家们带来了一线希望。领导这项研究的芝加哥大学教授赵本认为，这款工具能够将权力天平重新交还给内容创作者。它也对那些漠视版权和知识产权的科技公司起到了警示作用。.

问题的规模

大型人工智能模型使用包含数十亿张图像的数据集，因此恶意图像的影响十分显著。模型中集成的恶意图像越多，造成的破坏就越大，甚至可能重塑人工智能格局。.

开源协作和合乎道德的使用

Nightshade 的开发团队计划将其作为开源工具发布，并邀请其他人共同完善和提升其效能。他们强调，对于那些无视用户权利的网络爬虫而言，Nightshade 应被视为内容创作者的最后手段。.

保护艺术家权利面临的挑战

DALL-E 的创建者 OpenAI 近期开始允许艺术家从其训练数据集中移除自己的作品。然而，这一流程因过于繁琐而备受诟病，艺术家需要为每张想要移除的图片单独提交申请。简化移除流程或许能够阻止艺术家使用 Nightshade 等工具，这可能会对人工智能开发者产生长远的影响。.

随着艺术家保护知识产权与人工智能开发者训练模型之间的博弈日益激烈，像Nightshade这样的工具可能成为内容创作者的重要武器。在不断发展的人工智能领域，合乎伦理地使用人工智能以及尊重版权问题变得愈发重要。.