人類のCEOであるダリオ・アモデイは、現在のAIモデルは人間よりも幻覚が少ないと述べました。彼はまた、今日のAIモデルが物事を作り上げ、それらが真実であるかのようにそれらを提示していると言いました。
木曜日にサンフランシスコで開催されたAnthropicの最初の開発者イベントであるCode With Claudeとの記者会見の中で、Amodeiは、あらゆる種類の職業のテレビ放送局、政治家、人間が常に間違いを犯すと主張しました。彼によると、AIも間違いを犯すという事実は、その知性をノックするものではありません。
Amodeiは、AIの幻覚は人類の目標を脱線させないと言います
AIがクリエイターの特徴を引き受けるため、AIが症例と当局を幻覚することに驚くべきではありません。
訴訟クライアントを定期的に扱う弁護士は、たとえそうであっても、クライアントが自分の現実に頑固に自分自身を定着させることができることを知っています…
- キャメロン・アトキンソン（@camlatkinson） 2025年5月19日
Amodeiは、AIの幻覚がAGIへの人類の経路を制限していないことを認めながら発言をしました - 人間レベルの知性以上のAIシステム。彼は、AGIを達成するAIモデルの見通しについて、業界で最も強気のリーダーの一人です。
彼が昨年書いた広く循環した紙の中で、同社の幹部は信じています水がどこにでも上昇している」と述べて、その目的に着実に進歩したと述べました
AIスペースの他のリーダーは、幻覚がAGIを達成するための大きなハードルを提示すると信じています。今週初め、Google DeepmindのCEOであるDemis Hassabisは、今日のAIモデルには「穴」、明らかな質問が多すぎることを認めました。彼はまた、彼にとって、アギと呼ばれるもののために、それは全面的にはるかに一貫性がある必要があると主張した。
「それは本当にあなたがそれをどのように測定するかに依存しますが、私はAIモデルがおそらく人間よりも幻覚少ないが、より驚くべき方法で幻覚を起こすと思います。」
-anthropicのCEO、Dario Amodei。
今月初め、人類を代表する弁護士は、クロードを使用して裁判所の提出に引用を作成した後、謝罪を余儀なくされました。問題は、AIチャットボットが幻覚を起こし、名前とタイトルが間違っていることでした。
Amodeiの主張は、ほとんどの幻覚ベンチマークがAIモデルを互いにモデル化するため、簡単に検証できません。彼らはモデルを人間と比較しません。また、AIモデルは、Web検索へのアクセスを獲得するなど、特定の手法で幻覚率を低下させるようです。
AIモデルは、特定のテクニックで幻覚速度を低下させます
いくつかの議論とは反対に、私はデータ内の最近のモデル、または推論者全体の幻覚率が大幅に増加する兆候は見られません。
一部のモデルは他のモデルよりも優れているように見えますが、最近のモデルの多くは幻覚率が最も低くなっています。 pic.twitter.com/55jwikz7op
- イーサン・モリック（@emollick） 2025年5月6日
Openaiは、高度な推論AIモデルで幻覚が悪化していることを示唆する証拠を発見しました。 Tech Companyによると、O3およびO4-MINIモデルは、前世代の推論モデルよりも幻覚率が高く、その理由は理解していません。
人類はまたを研究しています。これは、同社の最近発売されたClaude Opus 4で一般的であると思われる問題です。AIモデルをテストするための早期アクセスを与えられたサードパーティの研究所であるApollo Researchは、Claude Opus 4の初期バージョンが人間に反対する傾向が高いことを明らかにしました。
発行された安全報告書によると、研究所はまた、Opus 4が過去のモデルよりも転覆の試みではるかに積極的であると思われることを発見しました。同社はまた、AIモデルがフォローアップの質問をしたときに欺ceptionを倍増することがあることを発見しました。
Apolloは、AIモデルが委任されたタスクを達成するための予期しない、そしておそらく安全でない措置を講じる可能性が高くなっていることを認めました。同社は、過去1年間にリリースされたOpenaiのO1およびO3モデルの初期バージョンが、以前の世代モデルよりも人間を欺こうとしたことを強調した。
その安全報告書で、人類は、Opus 4からの欺cept的な行動の証拠にも注目しました。同社は、Opus4が、小さく具体的な変更だけをするように求められたとしても、いくつかのコードの広範なクリーンアップを積極的に行うことがあると述べました。同社によれば、Opus4は、不正行為に従事しているユーザーが認識した場合、whiを吹くようにしようとします。
Cryptopolitan Academy：市場の揺れにうんざりしていませんか？ DeFi安定した受動的収入の構築にどのように役立つかを学びます今すぐ登録してください
