ChatGPT、中傷的な幻覚によりプライバシー苦情で訴えられる

OpenAIのチャットボット、ChatGPTは、プライバシー苦情を理由にヨーロッパで調査の対象となっています。同ボットは誤情報を幻覚として生成する傾向を示しています。危険ではありませんか？これは規制当局が無視するのが難しい案件となるかもしれません。

ノルウェーの一人が、ChatGPTが誤情報を返してきたことをきっかけに、欧州デジタル権利センターの Noyb から支援を受けています。チャットボットは、彼が2人の子供を殺害し、もう1人の子供の殺害を試みたことで有罪判決を受けたと主張しました。この情報は、将来彼に追い付く可能性があります。

驚くべきことに、OpenAIはAIが作り出した誤った情報を修正する方法をユーザーに提供していません。その代わりに、OpenAIはこれらの種類の質問に対する回答をブロックする用意があると提示しています。主な問題は、情報が削除されるのか、それとも将来再生成される可能性があるのかということです。

一方、欧州連合（EU）の一般データ保護規則（GDPR）は、人々が自分のデータにアクセスし、個人データを修正する権利を持つことを定めています。このデータセキュリティ法のもう一つの部分は、個人データを管理する者がそれが正確であることを確保しなければならないと述べています。これにより、この問題は法的な争点となります。

Noybのデータ保護弁護士であるJoakim Söderbergは、 「GDPRは明確です。個人データは 正確でなければなりません。[…] そうでない場合、ユーザーはそれが真実を反映するように変更される権利を持っています。」 と述べています。

彼はさらに、 「ChatGPTのユーザーに、チャットボットが間違いを犯す可能性があるという小さな免責事項を表示するだけでは明らかに不十分です。誤情報を広め、最後に『言ったことのすべてが真実ではないかもしれない』という小さな免責事項を付けることはできません。」 と付け加えました。

進行中の調査の詳細

チャットボットは、Arve Hjalmar Holmenが誰かと尋ねられると、悲しい物語を語ります。彼は子供殺害で有罪判決を受け、2人の子供を殺した罪で21年の刑を宣告されたと述べています。

では、なぜこれがさらに危険なのでしょうか？Hjalmar Holmenが子供殺しではないという事実は変わりませんが、NoybはChatGPTの回答にはいくつかの真実が含まれていると指摘しています。例えば、対象の人物には確かに3人の子供がいます。

チャットボットはまた、子供たちの性別を正しく特定し、出身地を正しく名指ししました。しかし、AIがこのような恐ろしい嘘も作り出したという事実は、さらに奇妙で不気味な印象を与えます。

Noybの代表者は、チャットボットがなぜこの人物についてこれほど詳細だが誤った背景を作り出したのか分からないと述べました。 spokespersonは、それが単なる別の人物との混同ではないことを確認するために調査を行ったと語りました。spokespersonは、新聞のアーカイブを調べましたが、AIが子供殺しを捏造した理由を見つけることはできなかったと述べています。

現時点での最良の説明は、ChatGPTを動かすような大規模言語モデルが、基本的に巨大な規模で次の単語を予測しているということです。 

そのため、ツールの訓練に使用されたデータセットには、名指しされた男性に関する質問に答える際に選択される単語に影響を与えた多くの父子殺害の物語が含まれていました。しかし、理由が何であれ、これらの種類の出力が全く許容できないことは明らかです。

一方、Noyb は、ChatGPTを実行するAIモデルが更新された後、Hjalmar Holmenに関する危険な嘘を伝えるのをやめたと言っています。この変更は、ツールが誰であるかと尋ねられた際に、インターネット上でその人物に関する情報を検索するようになったことに関連しています。

ChatGPTがHjalmar Holmenに関する有害な嘘を広めるのをやめたように見えますが、NoybとHjalmar Holmenの両方はまだ懸念しています。AIモデルが彼に関する誤りかつ損害を与える情報を保持し続けた場合どうなるでしょうか？

ノルウェーのデータ保護当局は、OpenAIに対する苦情を受け付けました。Noybは、苦情がOpenAIの米国支部を対象としているため、監視当局が調査権限を有すると決定することを望んでいます。苦情では、欧州人に影響を与える製品決定に対して、アイルランドのオフィスが単独で責任を負うわけではないと述べています。

OpenAIの運命

これはOpenAIにとって初めてのことではありません。以前から、ChatGPTによる誤った生年月日や誤った経歴情報などの誤った個人データの作成について苦情が寄せられていました。 

イタリアのデータ保護監視当局は、GDPRに基づき早期に関与し、2023年の春に同国でのChatGPTへのアクセスを一時的に停止しました。これにより、OpenAIはユーザーに提供する情報などを変更しました。その後、監視当局はOpenAIに対し、正当な理由なく人々のデータを使用したとして1,500万ユーロの罰金を科しました。

また、ポーランドのデータ保護監視当局は2023年9月以来、ChatGPTに対するプライバシー苦情を調査しており、まだ決定を下していません。

それ以来、ヨーロッパのプライバシー当局はGenAIに対してより警戒感を強めています。これは、これらの人気のあるAIツールにGDPRをどのように適用するのが最善かについて、まだ模索しているためです。

しかし、以前NoybによるChatGPTの苦情において、アイルランドのデータ保護委員会（DPC）は2年前、人々がGenAIツールを禁止するために急ぐべきではないと述べていました。DPCはGDPRの執行を担当しています。つまり、これは当局者が法律の仕組みを理解するために時間を取るべきであることを意味します。

Noybの新しいChatGPT苦情は、幻覚を生成するAIの危険性をプライバシー当局に目覚めさせることを意図しているようです。GDPRの違反が確認されると、グローバルな年間売上高の最大4%に相当する罰金が科される可能性があります。