プライバシー保護団体Noybは、OpenAIの製品ChatGPTがEUの多くのデータ保護法に違反しているとして、オーストリアデータ保護局（DPA）にOpenAIを提訴した。Noybによると、ChatGPTは個人に関する不正確な情報を共有しており、EUの一般データ保護規則（GDPR）では、個人に関する情報は正確でなければならず、個人にはその情報への完全なアクセスが提供されなければならないとされている。.
OpenAIはGDPR違反の罪に問われている
Noybは有名な弁護士で活動家のマックス・シュレムス氏によって設立され、ChatGPTが著名人の偽の誕生日を共有したと主張し、その人物に関連するデータにアクセスして削除する許可を求めたところ、Open AIによってその要求が拒否された。.
Noyb氏は、EUのGDPRでは、個人に関するあらゆる情報は正確でなければならず、情報源へのアクセスと情報提供が必須であると述べているが、OpenAIはChatGPTモデル内の情報を修正できないとしている。同社は情報の出所を特定することもできず、ChatGPTが個人に関するどのようなデータを保存しているかさえ把握していない。.
Noybは、OpenAIはこの問題を認識しており、その問題についての議論は次のように述べており、気にしていないようだと主張している。
「大規模言語モデルにおける事実の正確性は、依然として活発に研究されている分野です。」
Noyb 氏は、dentが宿題に使う場合に ChatGPT が誤った情報を吐き出すことは許容できるかもしれないが、個人データは正確でなければならないというのが EU 法の要件であるため、個人にとっては明らかに受け入れられないと述べた。.
幻覚によりチャットボットはEU規制に準拠しなくなる
Noyb氏は、AIモデルは幻覚、実際には誤った情報を生成する可能性があると指摘した。彼らは、OpenAIの情報生成の技術的手順に疑問を呈し、OpenAIの以下の論理的根拠を指摘した。
「各プロンプトに応じて次に現れる可能性が最も高い単語を予測することで、ユーザーのリクエストに応答します。」
Noyb 氏は、同社がモデルのトレーニングに利用できる膨大なデータセットを保有しているにもかかわらず、ユーザーに提供される回答が事実上正しいことを保証できないということを意味していると主張している。.
ノイブのデータ保護弁護士、マーチェ・デ・ガーフ氏は次のように述べた。
「虚偽の情報を捏造すること自体が大きなmatic です。しかし、個人に関する虚偽の情報となると、深刻な結果を招く可能性があります。」
出典: Noyb。.
また、彼は、いかなる技術も法律に従わなければならず、軽々しく扱うことはできないとも述べた。彼によれば、ツールが個人に関する正しい結果を出せないのであれば、この目的に使用することはできないからだ。また、この問題に関するEU法に準拠できるチャットボットを作成するのに、企業はまだ技術的に十分ではないとも付け加えた。.
生成AIツールは欧州のプライバシー規制当局の厳しい監視下に置かれており、2023年にはイタリアのデータ保護局（DPA）がデータ保護を一時的に制限しました。その結果がどうなるかはまだ不明ですが、 Noyb、OpenAIはEU法を遵守するつもりは全くないとのことです。
