- 新しいトレーニング手法により、AIの人間のような推論能力が向上します。
- 集中したAI教育は汎化能力を高めます。
- 小規模モデルでも大きなAIの進歩を実現。
人工知能（AI）の分野における画期的な進展として、研究者たちは、AIモデルの一般化能力と情報理解能力を大幅に向上させることができる新しいトレーニングプロトコルを発表しました。これは、人間が学び、推論する方法に近づけるものです。この革新的なアプローチは、より多くのデータが機械学習を改善するための鍵であるという従来の信念に挑戦し、AIと人間の認知の秘密に関する新たな洞察を提供します。
人間は、世界を理解し、さまざまな要素を組み合わせて意味をなすことに優れており、この認知スキルは「構成性」または「体系的な一般化」として知られています。これにより、私たちは見知らぬ文を解読し、独自の応答を作成し、単語や文法規則の背後にある意味を理解することができます。構成性の達成は長らくAI開発者の課題であり、従来のニューラルネットワークはこの人間の認知の基本的な側面をエミュレートするのが苦手です。
OpenAIのGPT-3やGPT-4などの現在の生成AIモデルはある程度構成性を模倣できますが、特定のベンチマークでは不十分であり、生成する文の意味や意図を真に理解できないことがよくあります。しかし、Natureに最近発表された研究によると、ニューラルネットワークの学習方法に焦点を当てた独自のトレーニングプロトコルが、この課題に対処するための鍵となる可能性があります。
学習プロセスの再構築
研究の著者たちは、AIのトレーニングにおいて異なるアプローチを取り、完全に新しいAIアーキテクチャを作成する必要を回避しました。代わりに、彼らはChatGPTやGoogleのBardで使用されているのと同じ基盤アーキテクチャである標準的なトランスフォーマーモデルから始めましたが、事前のテキストトレーニングはありませんでした。重要な革新は、トレーニングレジメン自体にありました。
研究者たちは、「dax」、「lug」、「kiki」、「fep」、「blicket」などの無意味な単語で構成された架空の言語を含む一連のタスクを設計しました。これらの単語は、色とりどりのドットのセットに関連付けられており、一部の単語は特定のドットの色を直接表し、他の単語はドットの出力を変更する機能を表していました。例えば、「dax」は赤いドットを表し、「fep」は、「dax」や他の記号的な単語と組み合わせると、対応するドットの出力を3倍にする機能でした。重要なのは、AIがこれらの関連性についての情報を一切受け取らなかったことです。研究者たちは単に、無意味な文の例と対応するドットの構成を提供しただけでした。
人間のような理解を実現するAI
AIモデルのトレーニングが進むにつれて、それは徐々に無意味な言語の暗黙のルールに従って一貫して応答することを学びました。新しい単語の組み合わせが提示されたときでさえ、AIは言語の発明されたルールを「理解」し、以前に見たことのないフレーズに適用する能力を示しました。この驚くべき成果は、AIの一般化の潜在能力を示唆しており、人間のような推論への重要な一歩でした。
AIのパフォーマンスを評価するために、研究者たちはそれを人間の参加者と比較しました。いくつかのケースでは、トレーニングされたAIは100パーセントの精度で応答し、約81パーセントの精度を達成した人間を上回りました。AIが間違いを犯した場合でさえ、それらは人間によく見られるエラーを模倣しており、その人間のような推論能力を浮き彫りにしました。
特に注目すべきは、この印象的なパフォーマンスが、膨大なデータセットでトレーニングされた巨大なAIではなく、比較的小さなトランスフォーマーモデルで達成されたことです。この発見は、機械学習モデルを無限のデータで埋め尽くすのではなく、専門的な言語学や代数の授業に似たより焦点を絞ったアプローチが、AIの能力に大幅な改善をもたらす可能性があることを示唆しています。
示唆と今後の方向性
この新しいトレーニングプロトコルは有望な結果を提供していますが、その限界を認識することが不可欠です。AIモデルは、架空の言語内のパターン認識に関連する特定のタスクで優れていましたが、まったく新しい課題や練習されていない一般化の形態に直面すると苦戦しました。したがって、AIにおける限定的な一般化の達成は重要な一歩ですが、人工一般知能の究極の目標にはほど遠いことを認識することが重要です。
マサチューセッツ工科大学のコンピュータサイエンティストであるArmando Solar-Lezamaは、この研究がAIを改善するための新しい道を開く可能性があると指摘しています。合成タスクであっても、モデルを効果的に推論させることに焦点を当てることで、現在の限界を超えたAIの能力を向上させる方法を見つけることができるかもしれません。しかし、この新しいトレーニングプロトコルをスケーリングすることは、対処する必要がある課題をもたらす可能性があります。
AIへの実用的な影響に加え、この研究はニューラルネットワークの内部動作とその創発的能力についても解明する可能性があります。これらのプロセスを理解することは、AIシステムのエラーを最小限に抑え、人間の認知に対する私たちの理解を深めることに貢献するかもしれません。
これをお読みいただいているあなたは、すでに一歩先を行っています。当社のニュースレターでその先を行ってください。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ブライアン・クーム
ブライアン・クミは2017年から業界に従事し、ブロックチェーンおよび暗号通貨の報道において7年以上の経験を持っています。BlockToday.comを含む主要な出版物に寄稿しており、BitDegree.orgでEthereum 101コースを開発したのち、Cryptopolitanのフルタイムライターとして参加しました。ブライアンはエバーグリーンガイド（EG）、ディープダイブ、インタビュー、価格分析をカバーしており、DeFi、ブロックチェーンのイノベーション、新興の暗号通貨プロジェクトへの注目は読者を魅了しています。
