革新的なトレーニングアプローチにより、AIは人間の心のように一般化できるようになる

人工知能（AI）分野における画期的な開発として、研究者らはAIモデルの情報一般化・理解能力を大幅に向上させ、人間の学習・推論方法に近づける新たな学習プロトコルを発表しました。この革新的なアプローチは、機械学習を向上させるにはより多くのデータが必要であるという従来の考えに疑問を投げかけ、AIと人間の認知の秘密に関する新たな知見をもたらします。.

人間は様々な要素を理解し、組み合わせて世界を理解する能力に長けており、これは「構成性」または「体系matic 一般化」と呼ばれる認知能力です。これにより、私たちは馴染みのない文章を解読し、独自の返答を生み出し、単語や文法規則の根底にある意味を理解することが可能になります。構成性の実現はAI開発者にとって長年の課題であり、従来のニューラルネットワークは人間の認知におけるこの基本的な側面を模倣するのに苦労しています。.

OpenAIのGPT-3やGPT-4といった現在の生成AIモデルは、ある程度構成性を模倣できますが、特定のベンチマークではしばしば不十分であり、生成する文の背後にある意味や意図を真に理解できていません。しかし、Nature誌に掲載された最近の研究では、ニューラルネットワークの学習方法に焦点を当てた独自の学習プロトコルが、この課題を解決する鍵となる可能性があることが示唆されています。.

学習プロセスの再構築

トレーニングにおいて従来とは異なるアプローチを採用し AIの 全く新しいAIアーキテクチャを構築する必要性を回避した。彼らは、ChatGPTやGoogleのBardで使用されているのと同じ、標準的なトランスフォーマーモデルを基盤としたアーキテクチャをベースに、テキスト学習を一切行わずにトレーニングを開始した。重要な革新は、トレーニング方法そのものにあった。

研究者たちは、「dax」「lug」「kiki」「fep」「blicket」といった意味不明な単語で構成された架空の言語を用いた一連の課題を設計した。これらの単語はカラフルな点の集合と関連付けられており、特定の点の色を直接表す単語もあれば、点の出力を変化させる関数を示す単語もあった。例えば、「dax」は赤い点を表し、「fep」は「dax」などの記号的な単語と組み合わせることで、対応する点の出力を3倍にする関数だった。重要なのは、AIがこれらの関連付けに関する情報を一切受け取らなかった点である。研究者たちは、対応する点の配置と共に意味不明な文の例を提供しただけだった。.

AI 人間のような理解を実現する

AIモデルは訓練を重ねるにつれ、意味不明な言語の暗黙のルールに従い、徐々に首尾一貫した応答を学習しました。斬新な単語の組み合わせを提示された場合でも、AIは言語の独自のルールを「理解」し、これまで見たことのないフレーズに適用する能力を示しました。この驚くべき成果は、AIの一般化能力、つまり人間のような推論能力への重要な一歩を示唆しています。.

AIの性能を評価するため、研究者たちはAIを人間の被験者と比較しました。訓練されたAIは、いくつかのケースにおいて100%の精度で回答し、約81%の精度を達成した人間を上回りました。AIが間違いを犯した場合でも、人間が一般的に犯す誤りを模倣しており、人間のような推論能力を備えていることが示されました。.

特に注目すべきは、この驚異的なパフォーマンスが、膨大なデータセットで訓練された大規模なAIではなく、比較的小規模なTransformerモデルで達成されたことです。この発見は、機械学習モデルに無限のデータで圧倒させるのではなく、専門的な言語学や代数学の授業のように、より焦点を絞ったアプローチによってAI能力が大幅に向上する可能性があることを示唆しています。.

意味と将来の方向性

この革新的な学習プロトコルは有望な結果をもたらしますが、その限界を認識することが重要です。このAIモデルは、架空言語におけるパターン認識に関連する特定のタスクでは優れた成果を上げましたが、全く新しい課題や未経験の一般化形式に直面した際には苦戦しました。したがって、AIにおいて限定的な一般化を達成することは重要な一歩ではあるものの、人工汎用知能という究極の目標には程遠いことを認識することが重要です。.

マサチューセッツ工科大学のコンピュータサイエンティスト、アルマンド・ソラーレザマ氏は、この研究がAIの改良に向けた新たな道を開く可能性があると指摘しています。合成タスクにおいても、モデルに効果的な推論を学習させることに焦点を当てることで、AIの能力を現在の限界を超えて向上させる方法を見つけられるかもしれません。しかしながら、この新しい学習プロトコルのスケールアップには、対処すべき課題が伴う可能性があります。.

この研究は、AIへの実用的な示唆に加え、ニューラルネットワークの内部構造とその創発能力にも光を当てる可能性があります。これらのプロセスを理解することで、AIシステムのエラーを最小限に抑え、人間の認知機能への理解を深めることに貢献できる可能性があります。.