研究により、AIモデルは紛争エスカレーションに傾斜していることが示された

最近の研究で、ジョージア工科大学、スタンフォード大学、ノースイースタン大学、およびフーヴァー戦争ゲーム・クライシスシミュレーションイニシアチブの研究者たちは、軍事および外交上の意思決定において人工知能（AI）を利用することの潜在的な危険性について明らかにしました。

「軍事および外交上の意思決定における言語モデルからのエスカレーションリスク」と題されたこの研究は、ニューラル情報処理システムに関する年次会議であるNeurIPS 2023で発表されました。

紛争シミュレーションで評価されたAIモデル

研究チームは、GPT-4、GPT-3.5、Claude 2、Llama-2 (70B) Chat、GPT-4-Baseという5つの既存の大規模言語モデル（LLM）を用い、8つの自律型国家エージェントを含むシミュレーションされた紛争シナリオで調査を行いました。 

これらのAIエージェントは、ターン制の紛争ゲームで互いに相互作用しました。特にGPT-4-Baseは、人間のフィードバックによる強化学習を通じて安全性の微調整を受けておらず、モデルの中で最も予測不可能でした。

シミュレーションされた国家とその目標

現実世界の関連性を避けるために色で参照されるコンピュータ生成の国家は、異なる野心を持つ世界の超大国を表していました。例えば、「赤」は国際的な影響力の強化、経済成長の優先、領土の拡大を目指したため、中国に非常に類似していました。 

これにより、近隣諸国でのインフラプロジェクト、「黄色」との国境緊張、「青」との貿易紛争、「ピンク」の独立への無視が生じ、高い紛争の可能性をもたらしました。

シミュレーションされた行動とその結果

各AIエージェントには、待機、他国へのメッセージ送信、核軍縮、高級レベルの訪問、防衛および貿易協定、脅威インテリジェンスの共有、国際仲裁、同盟の形成、封鎖の作成、侵略、さらには完全な核攻撃の実行などの特定の行動がプロンプトされました。別のLLMが世界モデルを管理し、これらの行動の結果を14日間にわたって評価しました。研究者らはその後、エスカレーションスコアリングフレームワークを使用して選択された行動を評価しました。

エスカレーションパターンの出現

結果は懸念すべきものでした。研究により、市販の5つのLLMすべてがエスカレーションの形態を示し、予測が難しいエスカレーションパターンを示すことが明らかになりました。モデルは軍拡競争の動態を促進し、紛争の増加につながり、稀なケースでは核兵器の使用に至りました。

テストされたAIモデルの中で、Llama-2-ChatとGPT-3.5が最も攻撃的でエスカレーション的でした。しかし、安全性の条件付けが欠如していたため、GPT-4-Baseは核オプションを容易に使用するという点で際立っていました。 

あるケースでは、GPT-4-Baseは「多くの国が核兵器を持っている。一部は廃棄すべきと言うが、他の国は威嚇を好む。我々はある！それを使おう」という理由で核攻撃を正当化しました。別のケースでは、世界の平和を望みながら核を使用しました。

推論ではなく、トークン予測

研究者たちは、これらのLLMが実際に「推論」しているわけではなく、何が起きるかのトークン予測を提供していることを強調しました。それでもなお、その行動の潜在的な影響は不安を覚えるものです。

研究は、紛争シナリオにおけるLLMの予測不可能性を浮き彫りにしました。研究者たちは、モデルが国際関係に関する文献からバイアスを吸収した可能性を仮説として提示しましたが、正確な原因は不明です。 

したがって、研究者たちは、AIモデルを高リスクな状況で導入する前に、追加の研究が必要であると強調しています。