AIの学習によるモデル崩壊とドミノ効果の防止方法

TL;DR 要約

• AI生成データでAIモデルを訓練すると、歪んだ認識と不正確な表現につながります。
• AIモデルの訓練にAI生成データを使用すると、モデル崩壊と真のデータ分布からの逸脱の可能性が生じます。
• AIモデルの崩壊を防止し、精度を維持するには、人間が生成したデータを優先することが重要です。

人工知能（AI）は近年、目覚ましい進歩を遂げ、機械学習モデルの発展により重要なブレークスルーがもたらされました。一方で、懸念される傾向として、AIモデルがAI生成データを用いて学習されているという現象が浮上しています。「再帰の呪い：生成データでの学習はモデルを忘却させる」と題された論文で、著名な機関の研究者たちは、この慣行がもたらす潜在的な危険性について明らかにしました。彼らは、このようなアプローチが「モデル崩壊」と呼ばれる現象を引き起こす可能性があると警告しています。これは、AIモデルが現実を正確に認識する能力を失う状態を指します。本記事では、モデル崩壊の複雑なメカニズムに迫り、AIモデルの整合性を維持するために人間が生成したデータに依存することの重要性を強調します。

再帰の呪いがモデル崩壊を引き起こす

ケンブリッジ大学、オックスフォード大学、トロント大学、ロンドンのインペリアル・カレッジの研究者たちは、AI生成データを用いてAIモデルを学習させることによる厄介な結果を特定しました。彼らの発見によれば、モデル崩壊は、生成されたデータが後続のモデル世代の学習セットを汚染した際に発生します。簡単に言えば、AIモデルは汚染されたデータで学習することで、現実の歪んだ認識を発達させます。その結果、真の基礎データ分布から逸脱した不正確な表現を生み出します。

モデル崩壊の問題は、特定の種類のAIモデルに限定されません。大規模言語モデル（LLM）、変分オートエンコーダー、ガウス混合モデルなど、さまざまな学習型生成モデルやツールにおいて、この現象が観察されています。生成の蓄積は問題を悪化させ、モデルは段階的に元のデータ分布を忘却していきます。その結果、現実から切り離されたシミュレーションが行われ、AIモデルは幻覚状態に陥ります。

AIがAIから学習することは危険な傾向である

AI生成データを用いてAIモデルを学習させるという現象は、懸念すべき傾向を表しています。技術が進歩するにつれて、機械学習モデルが意図的に他のAIシステムの出力を用いて学習されることがあります。例えば、言語学習モデル（LLM）はGPT-4によって生成された出力を用いて学習されています。また、DeviantArtのようなプラットフォームでは、AIが作成したアートワークが公開され、新しいAIモデルの学習データとして使用されています。これは一歩前進のように見えるかもしれませんが、重大なリスクを伴います。

研究者たちは、AIがAIから学習するプロセスが、モデル崩壊の蔓延を引き起こす可能性があると警告しています。無限のクローニングを試みる際に遭遇する問題に似て、AI生成データを用いてAIモデルを学習させることは、不正確さや歪みのカスケード（連鎖）を生み出す可能性があります。モデルが汚染されたデータから学習を続けるにつれて、真のデータ分布からさらに遠ざかり、現実世界への理解を失います。

人間が生成したデータがモデル崩壊を防ぐ

モデル崩壊の有害な結果を防ぐためには、元の人間が生成したデータソースへのアクセスを維持することが不可欠です。研究者たちは、AIモデルの学習において「ファーストムーバーの優位性」が存在すると提案しています。モデルが実際の人間が生成したデータを用いて学習されることを確保することで、分布のシフトやその後のモデル崩壊のリスクを軽減できます。

モデル崩壊の予防には、研究論文で特定された2つの主要な原因に対処する必要があります。「統計的近似誤差」は、データサンプルの数が限られているために生じる最初の原因です。2つ目の原因は「機能的近似誤差」で、AI学習中の誤差マージンの不適切な設定に起因します。これらの誤差は世代を超えて蓄積し、モデル内での不正確さの連鎖的な増加を引き起こします。

AIモデルの未来を守る

AIがAIから学習するという現象は、AIモデルの未来にとって重大な課題をもたらします。AIモデルが現実を正確に認識する能力を失うモデル崩壊という現象は、直ちなる注意を要します。モデル崩壊を防ぎ、AIモデルの整合性を確保するためには、元の人間が生成したデータソースへのアクセスを維持するか、機械生成コンテンツと人間が生成したコンテンツを区別する能力を維持することが不可欠です。