AIの「幻覚」がプライバシー侵害の訴えを呼ぶ

あるNoybとdent に、EUのプライバシー保護機関に苦情を申し立てた OpenAI 、GDPR違反および誤った情報に対する救済措置の不履行を理由

プライバシーに関する苦情が提出されました

著名なプライバシー弁護士であり、有能な活動家でもあるシュレムス氏は、EUにおいて最も重要なプライバシー侵害訴訟のいくつかを提起してきました。OpenAIは、オーストリア支配差別協会（DSB）と対峙しており、DSBの訴訟は「幻覚」、つまりAI（人工知能）の大規模言語モデルがしばしば提供する誤った回答に焦点を当てています。裁定命令が求める救済措置には、侵害の調査、確認決定、罰金、そして是正措置の検討が含まれています。.

OpenAI社はプライバシー侵害を認識していると言われているが、それは問題ではない。プレスリリースによると、Noyb氏の声明は訴訟提起を発表する声明文の中に含まれていた。.

ChatGPTを含む大規模なモデルは、特定の選択肢に対して最も意味のある単語を予測するための計算を行います。しかし、モデルが文脈を認識できずに誤った単語を選択し、誤った回答、つまり業界用語で言う「幻覚」を返してしまう場合があります。.

しかし、これは「プライバシー」の伝統における個人の権利とは関係ありません。Noybも同様です。欧州の規制は1995年以降、個人データの正確性の必要性を明記しておらず、EUの最新のプライバシー法であるGDPRが正確な個人データ保護の責任を負っています。.

AIの「幻覚」をターゲットに

これに関連して、Noyb氏は、生年月日が記載されていない公人であれば誰でも個人情報がオンラインで入手可能だと指摘しました。ChatGPTは質問の誤りにより、誤って生年月日を回答してしまいました。.

OpenAIも、2023年12月に実施された要請調査に伴うデータへのアクセスと消去に関する一方的な回答に満足していなかった。GDPRでは、データ管理者は個人情報主体にデータ処理について伝え、要請に応じて主体のデータを消去する義務があるが、削除には制限が認められている。.

Noyb氏は、このサービスがユーザーに統計データを提供していることを発見したが、システムによるデータ使用に関する情報は提供されていなかった。

データ要求の不適切な処理

OpenAIは、教育的なメッセージを届ける以外に、質問に対する回答としてモデルが生年を答えるのを阻止するために最善を尽くすと約束したが、苦情によると、誤って表示された回答を修正することはできないという。.

その結果、データ主体のより詳細な情報が ChatGPT。これは、OpenAIが異議申し立てによって報告した、この人物（著名人）に関する情報に対する国民の権利を阻害することになる。

主張には、「チャットボットからのいかなるアクションも情報を修正することはできず、いかなるフィルターも選択的にスクリーニングすることはできない、あるいは単にデータ主体は管理者によればこの状況に従うことはできない」と書かれていた。

ノイブ氏はEU反トラスト担当のマルグレーテ・ベステアー氏に対し、これはアイルランド支社のみであり、本社は依然として米国にあると述べた。この被告が訴訟に名指しされたのは、同社が米国法人であるOpenAI OpCo LLCの子会社であり、同社の利用規約にもその旨が記載されているためである。.