AI幻覚がOpenAIに新たな法的トラブルをもたらした

プライバシー保護団体Noybは、OpenAIの製品ChatGPTがEUの多くのデータ保護法に違反しているとして、オーストリアデータ保護局（DPA）にOpenAIを提訴した。Noybによると、ChatGPTは個人に関する不正確な情報を共有しており、EUの一般データ保護規則（GDPR）では、個人に関する情報は正確でなければならず、個人にはその情報への完全なアクセスが提供されなければならないとされている。.

OpenAIはGDPR違反の罪に問われている

Noybは有名な弁護士で活動家のマックス・シュレムス氏によって設立され、ChatGPTが著名人の偽の誕生日を共有したと主張し、その人物に関連するデータにアクセスして削除する許可を求めたところ、Open AIによってその要求が拒否された。.

Noyb氏は、EUのGDPRでは、個人に関するあらゆる情報は正確でなければならず、情報源へのアクセスと情報提供が必須であると述べているが、OpenAIはChatGPTモデル内の情報を修正できないとしている。同社は情報の出所を特定することもできず、ChatGPTが個人に関するどのようなデータを保存しているかさえ把握していない。. 

Noybは、OpenAIはこの問題を認識しており、その問題についての議論は次のように述べており、気にしていないようだと主張している。

「大規模言語モデルにおける事実の正確性は、依然として活発に研究されている分野です。」

Noyb 氏は、dentが宿題に使う場合に ChatGPT が誤った情報を吐き出すことは許容できるかもしれないが、個人データは正確でなければならないというのが EU 法の要件であるため、個人にとっては明らかに受け入れられないと述べた。. 

幻覚によりチャットボットはEU規制に準拠しなくなる

Noyb氏は、AIモデルは 幻覚を 、実際には誤った情報を生成する傾向があると述べた。彼らはOpenAIの情報生成の技術的手順に疑問を呈し、OpenAIの推論を指摘した。

「各プロンプトに応じて次に現れる可能性が最も高い単語を予測することで、ユーザーのリクエストに応答します。」

Noyb 氏は、同社がモデルのトレーニングに利用できる膨大なデータセットを保有しているにもかかわらず、ユーザーに提供される回答が事実上正しいことを保証できないということを意味していると主張している。.

ノイブのデータ保護弁護士、マーチェ・デ・ガーフ氏は次のように述べた。

「虚偽の情報を捏造すること自体が大きなmatic です。しかし、個人に関する虚偽の情報となると、深刻な結果を招く可能性があります。」

出典: Noyb。.

また、彼は、いかなる技術も法律に従わなければならず、軽々しく扱うことはできないとも述べた。彼によれば、ツールが個人に関する正しい結果を出せないのであれば、この目的に使用することはできないからだ。また、この問題に関するEU法に準拠できるチャットボットを作成するのに、企業はまだ技術的に十分ではないとも付け加えた。.

生成型AIツールは、欧州のプライバシー規制当局の厳しい監視下に置かれており、2023年にはイタリアのデータ保護機関が一時的にデータ保護を制限した。その結果がどうなるかはまだ不明だが、 Noyb、OpenAIはEU法を遵守するつもりすらないとしている。