ケンブリッジ辞典の年間単語「Hallucinate（幻覚を見る）」がAIの大きな問題を浮き彫りにする

人工知能（AI）の状況において顕著な変化として、ケンブリッジ辞典は「hallucinate（幻覚を見る）」を年間単語に選定しました。この選定は、AI分野におけるこの用語の理解における重要な発展を反映しています。従来は存在しない現象の知覚に関連していましたが、「hallucinate」は現在、AIシステムが誤って不正確なデータを事実として提示し、時に悪影響を及ぼす状況を包含するようになりました。

主要プラットフォームにおけるAIの不正確さ

Gizmodo、CNET、Microsoftなどの主要なテクノロジープラットフォームは、AIによって生成された記事の不正確さについて注目を集めています。これは、AI駆動システムによって生成されたコンテンツの信頼性に関する懸念を提起しています。特に懸念されるケースでは、法律専門家がAIチャットボットChatGPTによって作成された架空の訴訟を参照したために職を失いました。今年初め、モーガン・スタンレーの分析家は、ChatGPTが事実を捏造する傾向を指摘し、この問題は長年にわたって続くだろうと予測しました。これらの出来事は、AIがオンラインの誤情報を増幅する可能性について、ビジネスリーダーや誤情報専門家にとって赤旗を掲げることになりました。

批判的思考の重要性

ケンブリッジ辞典の出版マネージャーであるウェンダリン・ニコルス氏は、AIツールを使用する際に人間の批判的思考の重要な役割を強調しています。彼女は、AIが「幻覚を見る」ことができるという事実は、人間がこれらのツールに依存する際に批判的思考スキルを発揮しなければならないことを思い出させると指摘しています。これは、ユーザーがAI生成コンテンツを注意深く検討する必要があることを強調しています。

AI業界の認識

用語「hallucinate」は、2023年4月にOpenAIの画期的なチャットボット技術ChatGPTがローンチされて以来、AI業界の議論で注目を集めるようになりました。アルファベット社のCEOであるサンダー・ピチャイ氏は、AI業界が即座の明確な解決策が存在しない「幻覚の問題」に直面していることを認めました。テクノロジー界の主要人物からのこの認識は、問題の深刻さを浮き彫りにしています。

責任あるAIへのVectaraの貢献

自己規制と責任あるAIの促進に向けた重要な一歩として、大規模言語モデル（LLM）ビルダーのVectaraは2023年11月にオープンソースのHallucination Evaluation Model（幻覚評価モデル）を導入しました。この革新的なモデルは、LLMが事実情報からどれだけ逸脱しているかを評価します。これらの逸脱を定量化することで、Vectaraは企業におけるAIの広範な採用の障害に対処し、誤情報に関連するリスクを軽減することを目指しています。

ケンブリッジ辞典による「hallucinate」の年間単語選定は、AI業界内の重要な問題を浮き彫りにします。AIの不正確さと誤情報を生成する可能性は、専門家や一般市民の間で懸念を引き起こしています。AI業界がこれらの「幻覚の問題」に直面する中で、責任あるAIの開発とAIツールの使用時の警戒された批判的思考の必要性はかつてないほど明白になっています。VectaraのHallucination Evaluation Modelは、これらの課題に対処し、デジタル時代においてAIが誤情報を増幅するのではなく善の力となることを保証するための重要な一歩を表しています。