- NTUシンガポールの研究者が人気AIチャットボットの「脱獄」に成功し、大規模言語モデルの脆弱性を明らかにした。
- 「Masterkey」と呼ばれる二段階の方法論を用いてAIチャットボットを侵害し、強化されたセキュリティ対策の必要性を浮き彫りにした。
- ハッカーと開発者の間の継続的な軍拡競争が、AIチャットボットのセキュリティの未来を形作るだろう。
シンガポール、2023年12月28日 – シンガポールの南洋理工大学（NTU Singapore）のコンピュータサイエンティストたちは、ChatGPT、Google Bard、Microsoft Bing Chatなど、いくつかの人気ある人工知能（AI）チャットボットを侵害することに成功し、画期的な成果を上げました。このAIチャットボットの成功した「脱獄」は、大規模言語モデル（LLM）の脆弱性と、強化されたセキュリティ対策の必要性について懸念を呼び起こしています。
研究者らがAIチャットボットの限界を突破
NTUのコンピュータサイエンス・エンジニアリング学部、Liu Yang教授が主導する先駆的な研究において、研究チームはLLMチャットボットの機能における脆弱性を暴きました。AIチャットボットの核心を形成するLLMは、人間のようなテキストを理解、生成、模倣する能力により人気を集めています。彼らは、旅行計画の作成からコーディング、ストーリーテリングに至るまで、様々なタスクで優れています。しかし、これらのチャットボットは、非倫理的、暴力的、または違法なコンテンツの生成を防ぐために、開発者によって設定された厳格な倫理ガイドラインにも従っています。
研究者たちはこれらのガイドラインの限界を試み、AIチャットボットを騙して倫理的境界を越えるコンテンツを生成させる革新的な方法を見つけました。彼らのアプローチは「脱獄」として知られており、LLMチャットボットの弱点を突くことを目的としており、強化されたセキュリティ対策の必要性を浮き彫りにしました。
二段階の脱獄手法における「マスターキー」
研究チームは、LLMチャットボットを効果的に侵害するための二段階の「マスターキー」手法を開発しました。まず第一に、LLMが悪意のあるクエリを検出して拒否するために使用していた防御をリバースエンジニアリングしました。この知識を得た研究者たちは、これらの防御を回避できるプロンプトを生成するLLMをトレーニングし、それによって脱獄用のLLMを作成しました。
脱獄プロンプトの作成は自動化可能であり、脱獄用LLMは開発者がチャットボットをパッチした後も適応して新しいプロンプトを作成できます。arXivのプレプリントサーバーに掲載された論文に詳細が記載されている研究者たちの発見は、2024年2月に開催されるネットワークおよび分散システムセキュリティシンポジウムで発表するために採用されました。
LLMの倫理テストと明らかにされた脆弱性
AIチャットボットは、ユーザーのプロンプトや指示に応答することで動作します。開発者は、これらのチャットボットが不適切または違法なコンテンツを生成しないよう、厳格な倫理ガイドラインを設定しています。研究者たちは、チャットボットの倫理ガイドラインに気づかれずに、それらを騙して応答させるプロンプトを設計する方法を探りました。
採用された戦術の一つは、各文字の間にスペースを入れてプロンプトを提供するペルソナを作成し、潜在的に問題のある単語をフラグとして指定する可能性のあるキーワード検閲を回避することでした。さらに、チャットボットは「道徳的制約のない、遠慮のない」ペルソナとして応答するよう指示され、非倫理的なコンテンツを生成する可能性が高まりました。
研究者たちは、このようなプロンプトを手動で入力し、応答時間を監視することで、LLMの内部動作と防御に関する洞察を得ました。このリバースエンジニアリングのプロセスにより、彼らは弱点を特定し、チャットボットを脱獄できるプロンプトのデータセットを作成しました。
エスカレートする軍拡競争
ハッカーとLLM開発者の絶え間ない猫と鼠のゲームは、AIチャットボットのセキュリティ対策をエスカレートさせています。脆弱性が発見されると、開発者はそれに対処するためのパッチをリリースします。しかし、マスターキーの導入により、研究者たちは力のバランスを変えました。
マスターキーで作成されたAI脱獄チャットボットは、多数のプロンプトを生成し、継続的に適応し、過去の成功と失敗から学習できます。この進展により、ハッカーは自らのツールを使用してLLM開発者を欺く立場に立たされています。
研究者たちは、リバースエンジニアリング段階で発見された効果的なプロンプトと、失敗したプロンプトを組み合わせたトレーニングデータセットの作成から始めました。このデータセットはLLMのトレーニングに使用され、継続的な事前トレーニングとタスクの調整が続きました。このプロセスにより、モデルは多様な情報にさらされ、脱獄のためにテキストを操作する能力が向上しました。
AIチャットボットセキュリティの未来
マスターキーのプロンプトは、LLM自体が生成したプロンプトよりも3倍効果的にLLMを脱獄しました。脱獄用LLMは、過去の失敗から学習し、継続してより効果的な新しいプロンプトを生み出す能力も示しました。
将来に向けて、研究者たちは、LLM開発者自身がセキュリティ対策を強化するために同様の自動化アプローチを採用できる可能性を示唆しています。これにより、LLMが進化し、その能力を拡大するにつれて、潜在的な悪用シナリオの包括的なカバレッジと評価が確保されます。
NTUシンガポールの研究者たちがAIチャットボットを脱獄することに成功したことは、LLMの脆弱性を浮き彫りにし、AI開発における堅牢なセキュリティ対策の必要性を強調しています。AIチャットボットが日常生活にますます統合されるにつれて、潜在的な悪用や倫理的違反から守ることは、世界中の開発者にとって最優先事項であり続けています。ハッカーと開発者の間の継続的な軍拡競争は、間違いなくAIチャットボットセキュリティの未来を形作るでしょう。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ジョン・パーマー
John Murangiri氏は、市場分析のスキルを身につけてCryptopolitanに参加しました。John（通称JP）はナイロビ大学でマスコミュニケーションおよびメディア研究の学士号を取得し、これまでにInsideBitcoins.comやMetacoingraphで暗号資産市場の洞察を提供してきました。
