AI幻觉给OpenAI带来了又一个法律麻烦

隐私保护组织Noyb已向奥地利数据保护局(DPA)投诉OpenAI，称其产品ChatGPT违反了多项欧盟数据保护法。该组织表示，ChatGPT分享了关于用户的错误信息，而欧盟《通用数据保护条例》(GDPR)要求，关于用户的信息必须准确无误，并且用户必须有权完全访问与其相关的信息。.

OpenAI面临GDPR指控

Noyb 由著名律师兼活动家 Max Schrems 创立，它声称 ChatGPT 分享了一位著名公众人物的虚假生日日期，并且当它请求访问和删除与该人物相关的数据时，OpenAI 拒绝了它的请求。.

Noyb指出，根据欧盟的《通用数据保护条例》（GDPR），任何关于个人的信息都必须准确无误，并且个人必须能够访问并了解信息的来源。然而，OpenAI表示，他们无法更正其ChatGPT模型中的信息。该公司也无法确定信息的来源，甚至不知道ChatGPT存储了哪些关于个人的数据。. 

Noyb 声称 OpenAI 意识到了这个问题，但似乎并不在意，因为其对此问题的解释是：

“大型语言模型的事实准确性仍然是一个活跃的研究领域。”

Noyb 指出，当 ChatGPT 在dent做作业时输出错误信息时，这或许可以容忍，但对于个人而言，这显然是不可接受的，因为欧盟法律要求个人数据必须准确。. 

幻觉会使聊天机器人不符合欧盟法规。

Noyb指出，人工智能模型容易产生 幻觉 ，并生成实际上错误的信息。他们质疑OpenAI生成信息的技术流程，并指出OpenAI的理由是：

“通过预测用户对每个提示最有可能出现的下一个词语来响应用户请求。”

Noyb 认为，这意味着尽管该公司拥有大量可用于训练其模型的数据集，但仍然无法保证提供给用户的答案在事实上是正确的。.

诺伊布的数据保护律师 Maartje de Gaaf 表示，

“捏造虚假信息本身就很成matic 。但如果涉及个人的虚假信息，后果可能非常严重。”

来源：Noyb。.

他还表示，任何技术都必须遵守法律，不能随意更改。在他看来，如果一个工具无法得出关于个人的正确结果，那么它就不能用于此目的。他还补充说，目前各公司在技术上还不足以创建符合欧盟相关法律规定的聊天机器人。.

生成式人工智能工具正受到欧洲隐私监管机构的严格审查，早在2023年，意大利数据保护局就曾暂时限制了数据保护。目前尚不清楚最终结果如何，但据 Noyb，OpenAI甚至没有假装会遵守欧盟法律。