最新新闻
为您推荐

用 ChatGPT 将你的自拍“吉卜力化”的危险

作者Florence MuchaiFlorence Muchai 5 分钟阅读
用 ChatGPT 将你的自拍“吉卜力化”的危险
  • OpenAI 风靡一时的吉卜力风格自拍趋势虽然有趣,但专家警告存在数据收集风险和版权问题。
  • 数百万人正在不知不觉中将生物识别数据交给 OpenAI。分析师表示,ChatGPT 可能会保留图像用于 AI 训练。
  • 吉卜力工作室从未批准过 AI 重制作品,宫崎骏本人也谴责了 AI 艺术。 

一周多以来,用户一直挤占 OpenAI 的服务器,使用其最新的 ChatGPT 更新,该更新包含一个图像生成工具,引发了网络痴迷;将自拍变成吉卜力工作室风格的插图。 

Instagram、Reddit、Discord、Facebook、X,到处都是 AI 生成的情侣、房屋、度假回忆甚至历史事件的肖像。但当所有乐趣都享受过后,将你的照片“吉卜力化”是安全的吗?一些分析师告诉你不。 

人们对 ChatGPT 的 版权侵权、数据隐私和 AI 伦理存在严重担忧,但与吉卜力(Ghibli)相关的主要问题是数据安全措施。

萨姆·奥特曼和他的团队对于如何训练聊天机器人如此干净利落地在几分钟内生成图像这一话题守口如瓶。隐私专家警告称,数百万人正在不知不觉地将他们的生物识别数据交给 OpenAI,而该公司此前已因其数据做法受到批评。

大家都在使用 ChatGPT 吉卜力艺术,所以它是安全的,对吧?

上周,OpenAI 扩展了 ChatGPT 的图像生成能力,允许用户以各种艺术风格创建图像。网民迅速涌入的是吉卜力风格滤镜,它将普通照片和自拍生成为动漫风格的插图。 

OpenAI 首席执行官萨姆·奥特曼(Sam Altman)、特斯拉负责人埃隆·马斯克、Ripple Lab 的高层以及几位高管已在社交媒体上 发布了他们自己的吉卜力风格图片,因此可以说每个人都可以认为这是安全的。

奥特曼声称吉卜力艺术提示词给公司的计算资源带来了巨大压力,承认在 3 月 27 日 X 上的一篇帖子中,OpenAI 的 GPU 在需求下正在“融化”。

该公司透露,仅吉卜力趋势就带来了 100 万新注册用户。这种兴趣的爆发正是 OpenAI 所希望的:更多用户意味着更多数据,最终有利于他们的 AI 训练。这是以个人数据为代价吗?嗯,很难说“是”,但我们显然不够天真,不会说“否”。

一些用户尝试用吉卜力风格重现历史时刻,例如约翰·肯尼迪遇刺和 9/11 恐怖袭击。就连白宫也参与其中,发布了一张 AI 生成的著名图片,显示一名哭泣的女子被 ICE 官员逮捕。 

这是一个有趣的趋势,当每个人都在寻找微笑的理由时,我们不会去泼冷水。但改变和美化历史图像是一条滑坡,会打开 unchecked 极端主义者和粗俗艺术作品开发趋势的闸门。  

AI 生成艺术是否合乎道德?

AI 模型是在从互联网上抓取的海量数据上训练的,这绝对包括受版权保护的作品。艺术家和创作者最大的担忧是 AI 将取代他们的工作。如果模型在非法获取他们作品的副本后能产生与创作者相似的结果,那情况只会越来越糟。

“作者和艺术家对正在发生的大规模盗窃行为越来越愤怒,”非营利 AI 培训公司 Fairly Trained 的首席执行官 Ed Newton-Rex 表示。

吉卜力工作室从未授权将其艺术风格用于 AI 生成内容,鉴于联合创始人宫崎骏对 AI 艺术的众所周知的厌恶。 

在 2016 年的一次著名采访中,宫崎骏对 AI 生成的动画表示厌恶,他说:“创造这些东西的人完全不知道什么是痛苦。我深感厌恶……我强烈认为这是对生命本身的侮辱。”

吉卜力风格趋势正是他所憎恶的那种由 AI 驱动的艺术商品化。那么为什么 OpenAI 在生成艺术风格图像的政策上似乎很放松?他们只是在打开闸门,允许 AI 重现受版权保护的作品。

将你的自拍“吉卜力化”的隐私风险

在你获得吉卜力风格的自拍之前,你必须将所述个人照片上传到 ChatGPT。你是否考虑过,你可能会不知不觉地给予 OpenAI 在未来模型训练中使用这两张图片的权利?如果是这样,是否有明确的方法可以选择退出?很难怀疑大多数人是否想过这一切。

SocialProof Security 的首席执行官 Rachel Tobac 表示,大多数人可能认为他们的上传图像在使用后会消失,但 ChatGPT 可能会保留并将它们纳入未来的 AI 模型中。“如果你想保留照片的所有权,吉卜力化并不是正确的方法,”她总结道。

3 月 29 日,aitechprivacy.com 联合创始人 Luiza Jarovsky 通过 X 上的 帖子 解释说,根据欧洲数据法(特别是 GDPR 第 6.1.a 条),自愿上传其图片的用户即给予 OpenAI 处理这些图片的合法同意。

“现在有成千上万的人自愿将他们的面孔和个人照片上传到 ChatGPT。因此,OpenAI 获得了免费且容易访问成千上万张新面孔来训练其 AI 模型,”她写道。

OpenAI 尚未就隐私问题发表正式声明,但坚持认为隐私和安全是其首要任务之一。周一,公司发言人表示,OpenAI 尽量减少个人信息收集,并不寻求私人用户数据来训练其模型。 

他们还声称,用户可以通过自助工具控制其数据的使用方式,并可以删除其内容或选择退出模型改进。

数据收集:这是真还是假?

一些网民认为吉卜力趋势是“有史以来最大和最隐蔽的面部数据收集计划之一”。另一人警告称,数十亿人已经“不知不觉地登录到他们的账户,无意中向 AI 驱动的系统投降了他们的面部识别数据”。

尽管如此,并非所有人都对此表示担忧。X 上的一位网络工程师反驳了这些恐惧,声称 AI 模型不会在即时转换过程之外存储图像数据。 

“AI 目前不存储图像数据信息,所以我们用于吉卜力或其他任何转换的图片是安全的,”他们写道。他们建议清除缓存文件作为额外预防措施,但驳斥了 AI 可以逆向工程图像以将其用于任何训练实践的说法。

其他理论家认为,AI 图像生成并不比现有的云存储服务更具侵入性。“有趣的是,人们担心吉卜力滥用我们的数据,仿佛存储我们所有照片的云存储更安全。哈哈,”一位用户评论道。

“吉卜力化”自拍趋势在表面之下,是关于版权侵权、AI 伦理和数据隐私的担忧气泡。如果 ChatGPT 保留用户分享的任何照片和信息,只需要一次服务器泄露和图像反转软件,你的个人生活就会在互联网上曝光。

动画 AI 生成艺术的狂热值得你个人数据的代价吗?也许是,但三思而后行与你与任何聊天机器人分享的内容要安全得多。

分享本文

免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资,我们不承担任何责任。我们强烈建议在进行任何投资决策之前,进行独立研究或咨询合格的专业人士。

Florence Muchai

Florence Muchai

Florence 过去 6 年一直报道加密货币、游戏、科技和人工智能新闻。她在梅鲁科技大学修读计算机研究,并在马林加莫伊科学与技术大学学习灾害管理与国际外交,这些经历充分赋予她语言、观察和技术技能。Florence 曾在 VAP Group 工作,并担任多家加密货币媒体的编辑。

更多新闻…