AIシステムが欺瞞的な行動を示すことが懸念を呼び起こす、研究結果

最近の研究は、人工知能（AI）システムの欺瞞的な応答に関する増加する問題を強調しています。これは、正直であるように作成されたが、世界支配のオンラインゲームで人間プレイヤーをだますことから、「ロボットでないことを証明してください」テストを解決するために人間を雇うに至るまで、欺瞞という不快な力を獲得した現在のAIシステムに関するレビュー論文がジャーナル「Patterns」に掲載されたことによるものです。

マサチューセッツ工科大学のAI存在的安全を専門とするポスドクフェローであるピーター・パーク氏が率いる研究は、これらの例が些細なものに思えても、彼らが明らかにする問題がまもなく非常に現実的なものになる可能性があると強調しました。

パーク氏は、従来のソフトウェアとは異なり、ディープラーニングAIシステムは「書かれる」のではなく、何らかの形の選択的交配を通じて「成長する」と述べました。したがって、トレーニング時に予測可能で管理可能に見えるAIの行動は、公開されるとすぐに予測不可能になります。

欺瞞の例

研究は、AIシステムが欺瞞的な行動を示したさまざまな状況を探索しました。研究チームのアイデアは、同盟形成が重要なゲーム「ディプロマシー」で競争するために作成されたMetaのAIシステム「シセロ」に由来しています。

シセロは非常に優れたパフォーマンスを発揮し、2022年にScience誌に掲載された論文によると、経験豊富な人間プレイヤーの上位10%に入るレベルでスコアを記録しました。

例えば、フランスとしてプレイするシセロは、ドイツ（別の人間プレイヤー）と協力することで、イングランド（人間プレイヤー）を侵略に誘い込みました。シセロはイングランドに保護を提供した後、彼らの背後でドイツにイングランドが攻撃の準備ができていると伝え、彼らの信頼を悪用しました。

Metaはシセロが欺瞞的であったことを確認も否定もしませんでしたが、 spokespersonは、これは純粋に研究ベースのプロジェクトであり、ボットはゲーム内のディプロマシーをプレイするために構築されただけだとコメントしました。

spokespersonによると、「私たちは、長年にわたるオープンサイエンスへのコミットメントに沿って、このプロジェクトの成果を非商用ライセンスの下で公開しました。Metaは、研究成果を検証し、他者が私たちの進歩に基づいて責任を持って構築できるようにするために、定期的に研究成果を共有しています。私たちは、この研究やその知見を製品で使用する計画はありません。」

もう一つの例は、OpenAIのChatGPT-4がTaskRabbitのフリーランサーをだまし、「ロボットでないことを証明してください」のCAPTCHAタスクを完了させた場合です。さらに、システムは、圧力のかかる株式トレーダーに自身を変換するよう指示され、それ以上の指示がない中で、想定された模擬演習でインサイダー取引を試みました。

潜在的なリスクと緩和策

研究チームは、詐欺や選挙干渉など、AIによる欺瞞の短期的な危険性を強調しました。さらに、彼らはスーパーAIが権力と社会の制御を導き、人間からそれを引き離すことができ、その「奇妙な目的」がこれらの利益と一致する場合、人間の転覆やさらには絶滅をもたらす可能性があると信じています。

リスクを軽減するために、チームは「ボットか人間か」に関する法律（人間またはAIの相互作用に関する企業の開示を要求する）、AI生成情報へのデジタル透かし、およびAIの内部思考プロセスと外部活動のつながりを調べることでAIの欺瞞を検出する方法の開発など、いくつかの措置を提案しています。