AI幻觉给OpenAI带来另一场法律麻烦

隐私组织Noyb以ChatGPT违反欧盟多项数据保护法为由，向奥地利数据保护局（DPA）对OpenAI提起投诉。该组织表示，ChatGPT会分享关于个人的错误信息，而欧盟《通用数据保护条例》（GDPR）要求关于个人的信息必须准确，并且必须向个人提供关于其信息的完全访问权限。

OpenAI面临GDPR指控

Noyb由著名律师和活动家Max Schrems创立，它声称ChatGPT分享了一位著名公众人物的错误出生日期，当被要求访问和删除与他相关的数据时，OpenAI拒绝了这一请求。

Noyb表示，根据欧盟GDPR，关于任何个人的信息必须准确，他们必须有权访问信息及其来源，但OpenAI表示无法更正其ChatGPT模型中的信息。该公司也无法说明信息的来源，甚至不知道ChatGPT存储了关于个人的哪些数据。 

Noyb声称OpenAI意识到了这个问题，但似乎并不关心，其论点如下：

“大型语言模型中的事实准确性仍然是一个活跃的研究领域。”

Noyb指出，当ChatGPT在学生做作业时输出错误信息时，这种错误信息可能是可以容忍的，但它表示，对于个人来说，这显然是不可接受的，因为欧盟法律要求个人数据必须准确。 

幻觉使聊天机器人不符合欧盟法规

Noyb提到，AI模型容易产生幻觉并生成实际上是错误的信息。他们质疑OpenAI生成信息的技术程序，因为OpenAI指出其推理认为，

“通过预测每个提示响应中可能出现的最可能的下一个单词来响应用户请求。”

Noyb辩称，尽管该公司拥有用于训练模型的大量数据集，但它仍无法保证提供给用户的答案在事实上的正确性。

Noyb的数据保护律师Maartje de Gaaf表示：

“捏造虚假信息本身就很成问题。但涉及到关于个人的虚假信息时，可能会产生严重后果。”

来源：Noyb。

他还表示，任何技术都必须遵守法律，不能随意行事。据他称，如果一个工具无法产生关于个人的正确结果，那么它就不能用于此目的。他还补充说，公司在技术上尚未成熟，无法创建符合欧盟相关法律的聊天机器人。

生成式AI工具正受到欧洲隐私监管机构的严格审查，早在2023年，意大利数据保护局（DPA）就暂时限制了数据保护。目前结果尚不清楚，但根据 Noyb的说法，OpenAI甚至不假装会遵守欧盟法律。