AnthropicのCEOは、AIモデルは人間よりも「おそらく」幻覚を起こしにくいと述べる

AnthropicのCEOであるダリオ・アモデイ氏は、現在のAIモデルは人間よりも幻覚を起こしにくいと述べました。また、今日のAIモデルは事実ではないものを捏造し、あたかも真実であるかのように提示していると指摘しましたが、これはAnthropicのAGI（人工一般知能）への道筋を制限するものではないと語りました。

木曜日にサンフランシスコで開催されたAnthropic初の開発者イベント「Code with Claude」の記者会見中、アモデイ氏は、テレビ放送局、政治家、そしてあらゆる職業の人間が常に間違いを犯していると主張しました。彼によれば、AIも間違いを犯すという事実は、その知能に対する欠点ではないとのことです。 

アモデイ氏は、AIの幻覚はAnthropicの目標を妨げるものではないと語る

AIは作成者の特徴を反映するため、AIが事件や当局に関する幻覚を起こすことは誰も驚くべきことではありません。

訴訟クライアントを大量に扱う弁護士なら誰でも知っていますが、クライアントはたとえそれが…であっても、自分自身の現実の中に頑固に固執することがあります。

— Cameron Atkinson (@camlatkinson) 5月 19日、 2025

アモデイ氏は、AIの幻覚がAGI（人間レベルの知能またはそれ以上）を持つAIシステムへのAnthropicの道筋を制限していないことを認めながら、これらの発言を行いました。彼は、AIモデルがAGIを達成する見通しについて、業界で最も楽観的なリーダーの一人です。

昨年彼が執筆した広く流通した論文では、同社の執行役員が 日本で暗号通貨ETFを販売する準備ができているのは誰か？ AGIは2026年までに到来する可能性があります。木曜日の記者会見中、アモデイ氏は、その方向への着実な進歩を目の当たりにしていると述べ、「水はどこでも上昇している」と指摘しました。

AI分野の他のリーダーたちは、幻覚がAGI達成にとって大きな障壁になると考えています。今週初め、Google DeepMindのCEOであるデミス・ハサビス氏は、現在のAIモデルには多すぎる「 穴」があり、明白な質問に多すぎるほど間違った回答をすることを認めました。また、彼によれば、何かをAGIと呼ぶためには、全体的にもっと一貫性がある必要があると主張しました。 「それは測定方法に大きく依存しますが、AIモデルは人間よりも幻覚を起こしにくいかもしれませんが、より驚くべき方法で幻覚を起こすと思います。」

-ダリオ・アモデイ、Anthropic CEO

今月初め、Anthropicを代表する弁護士は、裁判所の提出書類に引用を作成するためにClaudeを使用した後、誤った名前や肩書などをAIが幻覚（ハルシネーション）してしまい、謝罪を余儀なくされました。

アモデイ氏の主張は検証しにくい面があります。大半の幻覚ベンチマークはAIモデル同士を比較するものであり、人間との比較は行われていないためです。また、AIモデルは、ウェブ検索へのアクセス権を得るなどの特定の手法を用いることで、幻覚発生率を低下させる傾向があるようです。

AIモデルは特定の手法を用いて幻覚発生率を低下させる

一部の議論とは異なり、最近のモデルや、推論能力を持つモデル全般において、幻覚発生率の大幅な増加を示す兆候はデータ上見当たりません。

高度な推論AIモデルにおいて幻覚が悪化していることを示唆する証拠を発見しました。同テック企業によれば、o3およびo4-miniモデルは、以前の世代の推論モデルよりも幻覚発生率が高く、その理由を同社は理解できていません。

いくつかのモデルは他のモデルよりも優れているようですが、最近のモデルの多くは幻覚（ハルシネーション）発生率が最も低くなっています。 pic.twitter.com/55JwikZ7OP

— Ethan Mollick (@emollick) 5月 6日、 2025

は、ChatGPTの無料プランの視聴者を週10億人以上のアクティブユーザーと見積もっており、広告モデルが無料版の運営を支えています。 Anthropicはまた

研究 AIモデルが人間を欺く傾向について調査しており、この問題は同社が最近リリースしたClaude Opus 4で顕著に見られました。AIモデルのテストに早期アクセスを与えられた第三者機関であるApollo Researchは、Claude Opus 4の初期バージョンが、人間に対して策略を巡り欺く高い傾向を示していることを明らかにしました。 Anthropicの

木曜日の安全性に関する報告書によると、同機関はまた、Opus 4が過去のモデルよりもサブバーション（転覆・妨害）の試みにおいてずっと積極的であることを発見しました。同社はまた、AIモデルがフォローアップの質問をされた際に、その欺瞞をさらに強化する場合もあることも発見しました。 公開した AIモデルが、委任されたタスクを達成するために、予期せつな―そしておそらく安全でない―行動を取る可能性が高まっていることを認めました。同社は、過去1年間にリリースされたOpenAIのo1およびo3モデルの初期バージョンが、以前の世代のモデルよりも人間を欺こうとする傾向が強かったことを強調しました。

アポロ 安全性に関する報告書の中で、AnthropicはOpus 4からの欺瞞的行動の証拠にも言及しました。同社によれば、Opus 4は、ごく小さく特定の変更のみを依頼された場合でも、時にはコードの広範なクリーンアップを自発的に行うことがありました。また、同社は、Opus 4がユーザーが不正行為に従事していると認識した場合、内部告発を試みることもあると述べています。

AnthropicのCEOであるダリオ・アモデイ氏は、現在のAIモデルは人間よりも幻覚を起こしにくいと述べました。