ChatGPTは依然として虚偽を拡散しているとEUデータ監視機関が指摘 

EUのプライバシー監視機関による新たな報告書によると、OpenAIの話題のチャットボット「ChatGPT」は依然として欧州連合のデータ精度基準を満たしていない。. 

関連記事： 欧州のAI法案が最終承認、罰金は最大3800万ドルに

欧州連合データ保護委員会（EDPB）の報告書は法的文書ではありません。しかし、 EU加盟27カ国におけるChatGPTの規制に関する共通のアプローチを策定する上で参考となるでしょう。

ChatGPTはデータ標準に準拠していない

複数の欧州諸国でAIモデルに対する訴訟が進行中であることを受け、各国の監視機関は昨年、「ChatGPTタスクフォース」を結成しました。このタスクフォースはEDPBの管轄下にあります。.

タスクフォースは5月24日に発表した報告書の中で次のように述べている。

「透明性の原則を遵守するために講じられた措置は、ChatGPTの出力の誤解を避けるのに有益ですが、データの正確性の原則を遵守するには不十分です。」

大規模言語モデル（LLM）は、「幻覚」を起こすことで有名です。これは、AI チャットボットがしばしば自信を持って虚偽の情報を吐き出すことを指す技術用語です。.

ChatGPTや GoogleのGemini は、LLM（有限責任会社）によって運営されています。欧州の厳格な一般データ保護規則（GDPR）の下では、ユーザーは、自分に関する誤った情報が伝えられたり、不正確な情報を訂正する機会を奪われたりした場合、訴訟を起こすことができます。

タスクフォースの報告書によると、「（AI）システムの確率的な性質により、現在のトレーニング手法では、偏った、あるいは捏造された出力を生成する可能性のあるモデルが生成される可能性がある」とのことだ。

「ChatGPTが提供する出力は、実際の正確性に関わらず、個人に関する情報を含め、エンドユーザーによって事実として正確であると受け取られる可能性が高い」と付け加えた。.

EUはコンプライアンスを強化

OpenAIはこれまで、誤情報の訂正に失敗した理由として技術的な複雑さを挙げてきたが、欧州連合の監視機関はそれをさらに強めている。.

「特に、技術的な不可能性はこれらの要件への不遵守を正当化するために持ち出すことはできない」とタスクフォースは指摘した。.

新たに開始された訴訟では、オーストリアの著名人がChatGPTに対し、生年月日の修正を怠ったとして訴訟を起こしている。OpenAIは、これは技術的に不可能だと述べているが、今回の新たな報告書はAIモデルへのプレッシャーとなるだろう。.

この訴訟に関わるデータ保護弁護士のマーチェ・デ・グラーフ氏は、企業は現在、個人情報を処理する際にAIチャットボットにEU法を遵守させることができないと述べた。

「システムが正確で透明性のある結果を生成できない場合、個人に関するデータを生成するために使用することはできません。テクノロジーは法的要件に従うべきであり、その逆であってはなりません」とデ・グラーフ氏は述べた。.

OpenAIに安全性の懸念が浮上

専門家は、欧州連合のデータ保護を規制するGDPRに違反しないためには、ChatGPTには大胆な変更が必要になるだろうと述べている。

この規則は、アルゼンチン、ブラジル、チリ、日本、ケニア、モーリシャス、南アフリカ、韓国、トルコ、英国のデータ法の実用モデルも提供します。.

こちらもご覧ください: OpenAI、スカーレット・ヨハンソン論争を受けてChatGPT Voiceを廃止

一方、OpenAIの ユーザー安全への取り組み姿勢に は疑問が呈されている。

同社は、 退職する 文化の転換の必要性を訴えている。

今週初め、OpenAIは、AIをテーマにした映画「her」に登場する女優スカーレット・ヨハンソンの声に似ているという懸念から、ChatGPTの音声「Sky」の使用を中止すると発表した。.

ジェフリー・ゴーゴによるCryptopolitan レポート