ChatGPT 因诽谤性幻觉面临隐私投诉

OpenAI 的聊天机器人 ChatGPT 正在欧洲因隐私投诉而接受调查。它表现出产生虚假信息的倾向。这很危险，不是吗？这个问题可能很难被监管机构忽视。

一名挪威人在发现 ChatGPT 返回虚假信息后，正在寻求欧洲数字权利中心 Noyb 的帮助。该聊天机器人称，他已被判定犯有杀害两名子女并试图杀害第三名子女的罪行。这些信息可能会在将来对他造成困扰。

疯狂的部分在于，OpenAI 没有为人们提供纠正 AI 编造的关于他们的错误信息的方法。相反，OpenAI 提供屏蔽此类问题的答案。主要问题是这些信息是否会被丢弃，还是会在以后再次生成。

另一方面，欧盟的《通用数据保护条例》（GDPR）赋予人们访问其数据以及更正其个人数据的权利。该数据安全法的另一部分规定，负责个人数据的人必须确保其准确性。这使得这个问题成为一个案例。

Noyb 的数据保护律师 Joakim Söderberg 表示，“GDPR 明确规定。个人数据 必须准确。[…] 如果不准确，用户有权要求将其更改以反映事实。”

他补充道，“向 ChatGPT 用户展示一个微小的免责声明，表明聊天机器人可能会出错，显然还不够。你不能只是散布虚假信息，最后加一个小免责声明说你可能说的所有事情都不一定是真的。”

正在进行的调查详情

当被问及他是谁时，聊天机器人讲述了一个关于 Arve Hjalmar Holmen 的悲伤故事。它称他被判定犯有儿童谋杀罪，并因杀害两名亲生子女而被判处 21 年监禁。

现在，为什么这更加危险？尽管 Hjalmar Holmen 并非儿童杀手这一事实并非真实，但 Noyb 指出，ChatGPT 的回答确实包含了一些真相。例如，此人确实有三个孩子。

聊天机器人还正确识别了他孩子的性别，并正确命名了他的家乡。然而，AI 还编造了如此可怕的谎言，这使得情况更加奇怪和令人不安。

Noyb 的一位代表表示，他们不知道聊天机器人为什么为这个人编造如此详细但虚假的背景。一位发言人表示，他们进行了研究以确保这不仅仅是与另一个人的混淆。发言人表示，他们查阅了报纸档案，但找不到 AI 编造儿童谋杀案的原因。

在这一点上，最好的解释是，大型语言模型（如驱动 ChatGPT 的模型）基本上是在超大规模上进行下一个词的预测。 

因此，用于训练该工具的数据集中包含许多关于杀子案的故事，这影响了它回答关于某位男性名字的问题时选择的词语。然而，无论原因如何，很明显这类输出是完全不可接受的。

与此同时，Noyb 表示 在运行该聊天机器人的 AI 模型更新后，该聊天机器人停止了对 Hjalmar Holmen 的危险谎言。这一变化与该工具现在在被问及某人是谁时搜索互联网上关于该人的信息有关。

尽管 ChatGPT 似乎已经停止传播关于 Hjalmar Holmen 的有害谎言，但 Noyb 和 Hjalmar Holmen 仍然担心。如果 AI 模型可能保留了他错误且具有破坏性的信息怎么办？

挪威数据保护机构已收到针对 OpenAI 的投诉。Noyb 希望监管机构决定其有权进行调查，因为投诉针对的是 OpenAI 的美国分支机构。投诉指出，其爱尔兰办公室并非对影响欧洲的产品决策负全部责任。

OpenAI 的命运

这并非 OpenAI 首次面临此类问题。人们此前曾投诉 ChatGPT 创建错误的个人数据，如错误的出生日期或不正确的传记信息。 

意大利的数据保护监管机构在 GDPR 下早期介入，并于 2023 年春天暂时在该国停止了 ChatGPT 的访问。这导致 OpenAI 做出了一些改变，例如它向用户提供信息的方式。此后，监管机构因 OpenAI 在没有有效理由的情况下使用人们的数据而对其处以 1500 万欧元的罚款。

有趣的是，波兰的数据保护监管机构自 2023 年 9 月以来一直在调查针对 ChatGPT 的隐私投诉，但至今尚未做出决定。

自那时以来，欧洲的隐私官员对生成式 AI 变得更加谨慎。这是因为他们仍在研究如何最好地将 GDPR 应用于这些流行的 AI 工具。

然而，在 Noyb 关于 ChatGPT 的早期投诉中，爱尔兰数据保护委员会（DPC）两年前表示，人们不应急于禁止生成式 AI 工具。DPC 负责执行 GDPR。相反，这意味着官员们应该花些时间来弄清楚法律是如何运作的。

看起来 Noyb 的新 ChatGPT 投诉旨在唤醒隐私官员，让他们意识到产生幻觉的 AI 的危险。经确认的 GDPR 违规行为可能导致高达全球年收入 4% 的罚款。