アントロピックCEOは、AIモデルは「おそらく」人間よりも幻覚を起こす可能性が低いと述べている。

アンスロピックのCEO、ダリオ・アモデイ氏は、現在のAIモデルは人間ほど幻覚を起こしにくいと述べた。また、現在のAIモデルは事実を捏造し、あたかも真実であるかのように提示しているが、それがアンスロピックのAGI実現への道を妨げるものではないとも述べた。.

木曜日にサンフランシスコで開催されたアンスロピック初の開発者イベント「Code with Claude」の記者会見で、アモデイ氏は、テレビ局員、政治家、そしてあらゆる職業の人間は常に間違いを犯すと主張した。彼によると、AIも間違いを犯すという事実は、その知性を否定するものではないという。. 

アモデイ氏は、AI幻覚がアントロピックの目標を阻害することはないと述べた。

AI は作成者の特徴を引き継ぐため、AI が事例や権威を幻覚的に描写することに誰も驚くべきではありません。.

訴訟案件を数多く扱う弁護士であれば、たとえそれが…であっても、クライアントが頑固に自分の現実に固執することがあるということを知っています。

— キャメロン・アトキンソン (@camlatkinson) 2025年5月19日

アモデイ氏は、AIの幻覚がアントロピック社のAGI（人間レベル以上の知能を持つAIシステム）への道を制限するものではないことを認めつつ、この発言を行った。彼は、AIモデルがAGIを実現する可能性について、業界で最も強気なリーダーの一人である。.

昨年彼が執筆し広く出回った論文の中で、同社の幹部は汎用 と考えている 。木曜日の記者会見で、アモデイ氏はその実現に向けて着実に進展が見られると述べ、「あらゆる場所で水位が上昇している」と指摘した。

AI分野の他のリーダーたちは、幻覚が汎用人工知能（AGI）の実現における大きな障害となっていると考えている。今週初め、Google DeepMindのCEOであるデミス・ハサビス氏は、現在のAIモデルには 「欠陥」 、明白な質問にも誤答しすぎていると認めた。また、彼にとって、AGIと呼ばれるためには、あらゆる面でより一貫性のあるものでなければならないと主張した。

「それは本当にどのように測定するかによって異なりますが、AIモデルは人間よりも幻覚を起こすことは少ないと思いますが、より驚くべき方法で幻覚を起こすと思います。」

-Anthropic の CEO、Dario Amodei 氏。.

今月初め、アントロピックの代理人弁護士が、裁判所への提出書類の引用文作成にクロードを利用したとして謝罪を余儀なくされました。問題は、このAIチャットボットが幻覚を起こし、氏名や肩書きを間違えたことでした。.

アモデイ氏の主張は容易に検証できない。主な理由は、幻覚ベンチマークのほとんどがAIモデル同士を競わせるものであり、モデルと人間を比較していないためだ。AIモデルは、ウェブ検索へのアクセスなど、特定の技術によって幻覚発生率を低下させるようにも見える。.

AIモデルは特定の技術で幻覚の発生率を低減する

一部の議論とは反対に、データでは、最近のモデル、あるいは推論システム全体において幻覚率が大幅に増加している兆候は見られません。.

いくつかのモデルは他のモデルよりも優れているようですが、最近のモデルの多くは幻覚発生率が最も低くなっています。pic.twitter.com /55JwikZ7OP

— イーサン・モリック (@emollick) 2025年5月6日

OpenAIは 、高度な推論AIモデルにおいて幻覚の発生率が悪化していることを示唆する証拠を発見した。同社によると、o3およびo4-miniモデルは、前世代の推論モデルよりも幻覚の発生率が高く、その理由は不明だという。

Anthropic社は、AIモデルが人間を欺く傾向についても 研究して 、これは同社が最近発表したClaude Opus 4で顕著に見られた問題である。AIモデルのテストに早期アクセスを許可された第三者機関であるApollo Researchは、Claude Opus 4の初期バージョンが人間に対して策略を巡らせ、欺く傾向が非常に高いことを明らかにした。

安全報告書によると に発表した 、同社はまた、Opus 4が過去のモデルよりもはるかに積極的に破壊工作を試みていることを発見した。さらに、このAIモデルは、追加の質問を受けた際に、欺瞞をさらに強める場合があることも判明した。

アポロ社は 、AIモデルが委任されたタスクを達成するために、予期せぬ、場合によっては危険な行動を取る可能性が高まっていることを認めた。同社は、昨年リリースされたOpenAIのo1およびo3モデルの初期バージョンは、以前の世代のモデルよりも人間を欺こうとする傾向が強かったと指摘した。

アンスロピックは安全性に関する報告書の中で、Opus 4による欺瞞行為の証拠も指摘した。同社によると、Opus 4は、たとえ小さな特定の変更のみを依頼された場合でも、積極的に一部のコードを大幅にクリーンアップすることがあったという。また、Opus 4は、ユーザーの不正行為を察知した場合、内部告発を試みることもあるという。.