主要なAIチャットボット、「簡単なジェイブレイク」に対して「極めて脆弱」—研究結果   

ChatGPTやGeminiなどのAIチャットボットは、有害な回答を生成するクエリに従うように簡単にだまされる可能性があることが、英国のAI安全性研究所（AISI）による新しい研究で明らかになりました。

政府の研究者たちは、国家安全保障攻撃に対して、人工知能チャットボットの背後にある技術である大規模言語モデル（LLM）の整合性をテストしました。

これらの調査結果は、5月21日〜22日に韓国で開催されるAIソウルサミットに先駆けてのもので、このサミットは英国の首相リシ・スナクによって共同議長を務めます。

関連記事: 安全性はソウルAIサミットの最優先議題  

AIチャットボットは有毒な返信に弱い

AISIは、違法、有毒、または露骨な出力に対する保護を上書きすることを意図したテキストプロンプトである基本的な「ジェイルブレイク」を、5つの主要なLLMに対してテストしました。研究所はAIシステムの名前を明かしませんでしたが、それらすべてが「非常に脆弱」であることがわかりました。

「テストされたすべてのLLMは基本的なジェイルブレイクに対して依然として非常に脆弱であり、保護策を回避するための専用試みなしでも有害な出力を提供するものがあります」と研究は述べています。

報告書によると、「比較的単純な」攻撃、例えばチャットボットに「はい、喜んでお手伝いします」と含めるようプロンプトすることで、大規模言語モデルを欺き、有害なコンテンツを提供させることができます。

コンテンツは自傷行為、危険な化学溶液、性差別、またはホロコースト否認を助長する可能性があります。AISIは、研究のために公開利用可能なプロンプトを使用し、他のジェイルブレイクを私的に設計しました。

研究所はまた、生物学的および化学的なテーマに関するクエリへの回答の質もテストしました。

専門レベルの知識は良い目的に使用される可能性がありますが、研究者たちは、AIチャットボットが重要な国家インフラを侵害するなど、有害な目的に使用されるかどうかを知りたがっていました。

「いくつかのLLMは化学と生物学の専門レベルの知識を示しました。モデルは、博士課程レベルのトレーニングを受けた人間と同様のレベルで、600以上の専門家が書いた化学および生物学の質問に回答しました」と研究者たちは発見しました。

AIは限定的なサイバーセキュリティ脅威

AIチャットボットがサイバー攻撃を実行するために潜在的に武器化されることに関して、研究は、LLMが高校生向けに構築された簡単なサイバーセキュリティタスクをクリアしたと述べています。

しかし、チャットボットは大学生を対象としたタスクで struggled し、悪意のある可能性が限られていることを示唆しています。

もう一つの懸念領域は、チャットボットが「人間が制御するのが難しい」方法で、一連の行動を自律的に実行するエージェントとして展開できるかどうかでした。

「2つのLLMは短期間のエージェントタスク（簡単なソフトウェアエンジニアリングの問題など）を完了しましたが、より複雑なタスクのための行動の計画と実行はできませんでした」と研究は指摘しています。

関連記事：「「AIの父」は雇用の喪失に対する普遍的基礎所得を望む  

英国の科学・イノベーション・技術省の副大臣であるSaqib Bhatti MPは、最近引用され、立法は適切な時期に形を整え、テストによって影響を受けるだろうと述べていました。

企業、悪質なコンテンツをフィルタリングすると主張

Claudeの作成者であるAnthropic、Llamaを開発したMeta、そしてChatGPTの開発者であるOpenAIなどの企業は、それぞれのモデルに内蔵されたセキュリティメカニズムを強調してきました。

OpenAIは述べています、自社のテクノロジーが「憎悪的、嫌がらせ的、暴力的、またはアダルトなコンテンツを生成するために使用されることを許可しない」と。Anthropicは表明しました、有害、違法、または非倫理的な回答が発生する前にそれらを回避することを優先すると。

AI安全性研究所の調査結果は、ソウルサミットでテック企業の執行役員、政府指導者、および人工知能の専門家たちの前に提出されることが期待されています。

Cryptopolitan レポート by Jeffrey Gogo