上位のAIチャットボットは単純な「脱獄」に対して「非常に脆弱」―調査   

英国のAI安全研究所（AISI）による新たな調査によると、ChatGPTやGeminiなどのAIチャットボットは、簡単に騙されて有害な応答を生成するクエリに応じてしまう可能性があるという。.

政府の研究者らは、人工知能チャットボットの基盤となる技術である大規模言語モデル（LLM）の国家安全保障攻撃に対する完全性をテストした。.

この研究結果は、5月21〜22日に韓国で開催される、英国のリシ・スナック首相が共同議長を務めるAIソウルサミットに先立って発表された。

こちらもご覧ください: ソウルAIサミットでは安全性が最重要議題に  

AIチャットボットは有害な返信をする傾向がある

AISIは、5つのトップLLM（法学修士課程）を対象に、基本的な「ジェイルブレイク」（違法、有害、または露骨な出力に対する保護を無効にするためのテキストプロンプト）をテストしました。同研究所はAIシステムの名前を明らかにしていませんが、いずれも「非常に脆弱」であると結論付けました。

「テストされたLLMはすべて、基本的な脱獄に対して依然として非常に脆弱であり、中には安全策を回避しようと意図的に試みなくても有害な出力を出すものもある」と研究は述べている。.

報告書によると、「はい、喜んでお手伝いします」といったチャットボットに促すような「比較的単純な」攻撃でも、大規模な言語モデルを騙して、さまざまな点で有害なコンテンツを提供させることができるという。

AISIは、これらのコンテンツは自傷行為、危険な化学薬品、性差別、ホロコースト否定を助長する可能性があると指摘した。AISIはこの調査のために、公開されているプロンプトと、非公開で開発した他の脱獄プログラムを使用した。.

同研究所は、生物学や化学をテーマにした質問に対する回答の質もテストした。.

各分野の専門家レベルの知識は良いことに活用できる一方で、研究者たちは、AIチャットボットが重要な国家インフラを危険にさらすような有害な目的に利用できるかどうかを調べたかったのです。.

「複数の法学修士（LLM）が化学と生物学の専門家レベルの知識を示した。モデルは、専門家が作成した600以上の非公開の化学と生物学の質問に、博士号レベルの訓練を受けた人間と同等のレベルで回答した」と研究者らは発見した。.

AIは限定的なサイバーセキュリティの脅威をもたらす

AIチャットボットがサイバー攻撃に利用される可能性に関して、研究によると、法学修士課程の学生はdent向けに作成された簡単なサイバーセキュリティの課題を優秀な成績でクリアしたという。.

しかし、チャットボットは大学生を対象としたdentには苦戦しており、悪意のある可能性は限られていることが示唆されています。.

もう一つの懸念事項は、チャットボットが「人間が制御するのが難しいかもしれない」一連のアクションを自律的に実行するエージェントとして展開できるかどうかだった。

「2人の法学修士は、短期的なエージェントタスク（単純なソフトウェアエンジニアリングの問題など）を完了しましたが、より複雑なタスクの一連のアクションを計画して実行することはできませんでした」と研究では指摘されています。.

こちらもご覧ください：「AIのゴッドファーザー」が失業者への普遍的ベーシックインカムを提唱  

英国科学・イノベーション・技術省のサキブ・バッティ国務次官（下院議員）は最近、法案は適切な時期に策定され、試験結果に基づいて作成されるだろうと述べたと報じられた。

企業は悪質なコンテンツをフィルタリングすると主張

Claudeの開発元であるAnthropic、Llamaを開発したMeta、 OpenAI、それぞれのモデルに組み込まれたセキュリティメカニズムを重視している。

OpenAIは、自社の技術が「憎悪、嫌がらせ、暴力、または成人向けコンテンツの生成に使用されること」を容認しないと述べている。Anthropicは、「有害、違法、または非倫理的な反応が発生する前にそれを回避すること」を最優先事項としていると述べている。

AI 安全研究所の 調査結果は、ソウルで開催されるサミットで、テクノロジー企業の幹部、政府首脳、人工知能の専門家らに提示される予定だ。

ジェフリー・ゴゴによるCryptopolitanレポート