ChatGPT因诽谤性幻觉内容遭到隐私投诉

OpenAI 的聊天机器人 ChatGPT 因隐私投诉正在欧洲接受调查。它被曝出有编造虚假信息的倾向。这很危险，不是吗？监管机构恐怕很难对此置之不理。.

挪威一名男子在发现聊天机器人 ChatGPT 返回虚假信息后，正在向欧洲数字权利中心 Noyb。该聊天机器人声称他被判犯有杀害两个孩子和试图杀害第三个孩子的罪行。这些信息可能会在未来给他带来麻烦。

令人匪夷所思的是，OpenAI 并没有提供任何方法来纠正 AI 捏造的关于用户的错误信息。相反，OpenAI 提供的是屏蔽此类问题的答案。关键问题在于，这些信息是会被直接丢弃，还是之后可以再次生成。.

另一方面，欧盟的《通用数据保护条例》（GDPR）赋予人们访问自身数据的权利以及更正个人数据的权利。该数据安全法的另一部分规定，负责个人数据的人员必须确保数据的准确性。这使得这个问题成为一个案例。.

Noyb律师事务所的数据保护律师Joakim Söderberg表示： “GDPR的规定很明确。个人数据必须 准确。[…]如果不准确，用户有权要求更正，使其反映真实情况。”

他补充道： “仅仅向 ChatGPT 用户展示一个小小的免责声明，说明聊天机器人可能会出错，这显然是不够的。你不能先散布虚假信息，最后再加一个小小的免责声明，说你所说的一切可能都不属实。”

正在进行的调查详情

当被问及阿尔韦·亚尔马·霍尔曼是谁时，聊天机器人讲述了一个令人悲伤的故事。它说，他因杀害自己的两个孩子而被判犯有谋杀儿童罪，并被判处21年监禁。.

那么，为什么这更危险呢？虽然Hjalmar Holmen并非儿童杀手，但Noyb指出，ChatGPT的回答确实包含一些事实。例如，此人确实有三个孩子。.

聊天机器人不仅正确dent了他的孩子的性别，还准确地说出了他的家乡。然而，人工智能竟然编造出如此骇人的谎言，这让事情变得更加诡异和令人不安。.

Noyb公司的一位代表表示，他们不知道为什么聊天机器人会为这个人编造如此详细但虚假的背景信息。一位发言人表示，他们进行了调查，以确保这并非与其他人的混淆。该发言人还表示，他们查阅了报纸档案，但未能找到人工智能编造儿童谋杀案的原因。.

目前最好的解释是，像 ChatGPT 这样的大型语言模型，基本上是在大规模地进行下一个词预测。. 

正因如此，用于训练该工具的数据集中包含大量杀婴案例，这影响了它在回答有关某个特定男子的问题时所选择的词语。然而，无论原因如何，很明显，这类输出结果都是完全不可接受的。.

与此同时，诺伊布 表示 ，聊天机器人在运行其人工智能模型更新后，停止了散布关于希亚尔马·霍尔曼的危险谎言。这一变化与该工具现在会在被问及身份时搜索互联网信息有关。

尽管 ChatGPT 似乎已经停止散布关于 Hjalmar Holmen 的有害谎言，但 Noyb 和 Hjalmar Holmen 本人仍然感到担忧。万一人工智能模型可能仍然保留着关于他的错误且有害的信息呢？

挪威数据保护机构已收到针对OpenAI的投诉。Noyb希望该监管机构能够认定其有权对此案展开调查，因为投诉对象是OpenAI的美国分公司。投诉指出，OpenAI的爱尔兰分公司并非影响欧洲用户的产品决策的唯一责任方。.

OpenAI的命运

这并非OpenAI首次出现此类问题。此前，人们就曾抱怨ChatGPT会生成错误的个人数据，例如错误的出生日期或不正确的个人简介信息。. 

意大利数据保护监管机构根据《通用数据保护条例》(GDPR)提前介入，于2023年春季暂时停止了ChatGPT在意大利的访问。这迫使OpenAI做出一些改变，例如修改其向用户提供的信息。之后，监管机构以OpenAI未经正当理由使用用户数据为由，对其处以1500万欧元的罚款。.

有趣的是，波兰数据保护监管机构自 2023 年 9 月以来一直在调查针对 ChatGPT 的隐私投诉，但至今仍未做出决定。.

此后，欧洲的隐私官员对基因人工智能（GenAI）变得更加谨慎。这是因为他们仍在探索如何将《通用数据保护条例》（GDPR）更好地应用于这些流行的AI工具。.

然而，在两年前针对Noyb ChatGPT的投诉中，爱尔兰数据保护委员会（DPC）曾表示，人们不应急于禁止GenAI工具等。DPC负责执行GDPR。这意味着相关官员应该花些时间弄清楚该法律是如何运作的。.

看来Noyb针对ChatGPT的新投诉意在唤醒隐私保护官员，让他们意识到人工智能产生幻觉所带来的危险。经确认违反GDPR的行为可能导致最高相当于全球年营业额4%的罚款。.