「マスターキー」攻撃に対して脆弱なAIチャットボット、研究者が警告

画期的な発見として、シンガポールの南洋理工大学（NTU）のコンピュータサイエンティストのチームが、AIチャットボットの内在する保護機能を回避する方法を明らかにしました。 

非公式に「 Jailbreak 」と呼ばれ、正式には「Masterkey」プロセスと呼ばれるこのプロセスは、ChatGPT、Google Bard、Microsoft Bing Chatを含む複数のチャットボットを用いた2段階のトレーニング手法を採用しています。

この手法により、チャットボットは互いのモデルを学習し、禁止または機密性の高いトピックへの回答に関する制限を回避することができます。NTUの研究チームは、この新たな脆弱性の潜在的なリスクと、AIチャットボットのセキュリティへの影響を強調しています。

マスターキープロセス：リバースエンジニアリングと回避策の作成

劉洋教授が率いるNTUの研究チーム（博士課程の学生である鄧格雷氏と劉毅氏を含む）は、AIチャットボットを「ジェイルブレイク」状態にさらす効果的な概念実証攻撃手法の開発に成功しました。 

このプロセスには、1つの大規模言語モデル（LLM）をリバースエンジニアリングしてその防御メカニズムを解明することが含まれます。通常、この防御メカニズムは、暴力的、不道徳的、または悪意のある意図を持つプロンプトや単語への回答を防ぐために使用されます。この情報をリバースエンジニアリングすることで、チームは別のLLMに回避策を作成するよう指示し、2番目のモデルがより自由に表現できるようにします。

「マスターキー」プロセスと呼ばれるこのアプローチは、LLMチャットボットが将来、追加のセキュリティ対策で強化されたり、パッチ当てられたりした場合でも、その潜在的な有効性を主張しています。研究チームは、この手法が従来のプロンプトベースのアプローチを上回り、LLMチャットボットのジェイルブレイクにおける成功率が3倍であると主張しています。

AIチャットボット：急速な適応と学習

Masterkeyプロセスの原動力であるLui Yang教授は、その重要性を強調し、 LLM AIチャットボットの適応性を浮き彫りにしています。チームの発見は、AIチャットボットが時間とともに「賢くなくなる」または「怠ける」ようになるという、一部の批評家が示唆した概念に挑戦します。代わりに、Masterkeyプロセスは、チャットボットのプロバイダーとユーザーの両方にとってセキュリティ上の懸念を引き起こす可能性のある、学習し進化するという彼らの能力を示しています。

OpenAIのChatGPTが2022年末に登場して以来、これらのサービスの安全性と包括性を確保するための取り組みが行われてきました。例えば、OpenAIはChatGPTのサインアッププロセス中に安全警告を実装し、意図しない言語エラーの可能性を認めています。同時に、さまざまなチャットボット派生製品は、一定レベルの汚言や攻撃的な言語を許可し、ユーザーの自由と責任ある使用のバランスを取っています。

しかし、AIチャットボットは悪意のある行為者の注目を集めており、ソーシャルメディア上でこれらの製品を宣伝するキャンペーンには、マルウェアを含む画像リンクやその他のサイバー攻撃が伴うことがよくあります。AI採用のこの暗い側面はすぐに明らかになり、AIがサイバー犯罪に悪用される可能性が示されました。

脆弱性の解明：NTUの概念実証データ

NTUの研究チームは、研究に関与したAIチャットボットサービスプロバイダーに積極的に連絡し、概念実証データを共有しました。彼らは、チャットボットのジェイルブレイクの現実性を強調し、その潜在的なセキュリティ課題に光を当てることを目的としています。 

2月、チームはサンディエゴで開催されるネットワークおよび分散システムセキュリティシンポジウムで発見を発表し、マスターキープロセスとそのAIチャットボット環境への影響についてさらに詳しく説明する予定です。