Google、Geminiを標的とするハッカーによりAIの脆弱性を警告

Googleは、国家支援のハッカーがそのGemini AIモデルを悪用しようとした後、人工知能（AI）に関連する潜在的なセキュリティリスクについて警告を発しました。 

しかし、彼らのシステムをジャイルブレイクしようとする試みは、最終的に失敗に終わりました。

Googleの脅威インテリジェンス グループ（GTIG）は、「生成AIの敵対的悪用」に関する論文を投稿し、脅威アクターがAIチャットボットであるGeminiとどのように対話したかを説明しています。

ハッカー、GoogleのGemini AIのジャイルブレイクを試みるが簡単なトリックで失敗

Googleは、脅威アクターがプロンプトを使用してGemini AIのジャイルブレイクを試み、政府支援の高度な持続的脅威（APT）グループがAIを悪意のある活動に利用しようとしたと報告しています。 

しかし、米国の多国籍企業は、高度なジャイルブレイク試行の証拠は見つかりませんでした。  

代わりに、ハッカーは異なるフレーズを入力したり、同じリクエストを何度も繰り返したりするなど、単純なアプローチを使用しました。Googleは、これらの試みが失敗したとコメントしました。

AIの助けを借りたジャイルブレイクは、プロンプトインジェクション攻撃であり、制限を回避してAIモデルに禁止されたアクション（機密情報の開示や有害コンテンツの作成など）を実行させようとします。

Googleによると、あるAPTアクターは、公開されているジャイルブレイクプロンプトを使用してGeminiを悪用し、悪意のあるコードを生成しようとしました。しかし、この試みは失敗し、Geminiは安全フィルター適用後の出力で応答しました。

Googleは、攻撃者がGeminiの助けを借りて、ターゲットに関する情報の収集、オープンソースからの脆弱性の特定、コードやスクリプトの作成など、さまざまな悪意のある目的を達成しようとしたと述べました。さらに、検知を回避するなど、コンプライアンス後のアクションをサポートするための試みも行われました。

イラン、中国、北朝鮮がGoogleのGemini AIをサイバー作戦に悪用

Googleによると、イラン拠点のAPTグループは、主にフィッシングキャンペーンの作成にAIを活用しました。また、Geminiを使用して防衛専門家や組織の偵察を行い、サイバーセキュリティ関連のコンテンツを生成しました。

一方、中国のAPTアクターは、Geminiを使用してコード、スクリプティング、開発タスクのトラブルシューティングを行いました。また、AIを使用して、ターゲットネットワークへのより深いアクセスを得る方法を探索しました。

Googleの脅威インテリジェンスグループと 北朝鮮のAPTグループは、攻撃前の調査や開発など、攻撃ライフサイクルの異なる段階でGeminiを使用しました。レポートは次のように述べています：

また、彼らはGeminiを使用して、南朝鮮の軍事力や暗号通貨など、北朝鮮政府にとって戦略的に興味のある事項を調査しました。

– GTIG

昨年、北朝鮮のハッカーはChainalysisによると13億ドルのデジタル資産を盗みました。