悪意あるAIチャットボットの台頭：脅威アクターが「ハックボット」を採用

AIの人気に沸く波は、善意を持つ人々だけでなく、より悪意のある意図を持つ人々にも押し寄せました。セキュリティ専門家は警鐘を鳴らし、このようなモデルの使用が脅威アクターの間で悪意あるテキスト生成や「ハックボット」の作成において有名になっていると指摘しています。これはサブスクリプションベースのサービスにおいてターンキーサービス（完成品サービス）のレベルに達しています。

AIツールを活用するサイバー犯罪者たち

一方、サイバーセキュリティ専門家は、AI対応ツールが自らのシステムをよりよく保護する可能性を迅速に認識しました。脅威アクターもまた、攻撃対象が残したセキュリティの隙間を突くためにこれらの技術を積極的に利用する同等の意欲を示しています。過去数年間で、悪意あるアクターによって使用されるAIアプリケーションの数は指数関数的に増加し、セキュリティチームがAI関連の脅威を封じ込めるための十分なアプローチに注目を集めることとなりました。

一方で、イギリスのサイバーセキュリティ専門家たちも、AIが未開の水域とその絶え間ない変化を伴う新たなリスクであることを示唆しました。NCSCは、2024年第1四半期が2022年と2023年の記録を塗り替える最も大きく成功した期間になると予測しています。狡猾な犯罪者たちもまた、フィッシングスキームや音声認識デバイスを用いて有名人をビデオや音声の状況に配置することを要求するソーシャルエンジニアリングのために言語モデルを使用しました。Microsoft Corporationのセキュリティ副社長であるVascut JakkalはRSA Conference 2024に出席しました。問題はこれらのツールの劣化ではなく、パスワードクラッキングに対するそれらの広範な利用可能性の増加にあり、これはアイデンティティ関連の攻撃の10倍の成長と結びついています。

一部の専門家たちはさらに、チャットボットがマルウェアを積極的に開発するために独特のフレーズを使用していると結論付けました。確かに、ChatGPTやGeminiなどの一般公開されているサービスは、悪意ある目的での misuse を防ぐためのガードレールを実装しています。しかし、ハッカーたちは洗練されたプロンプトエンジニアリング技術を通じて多くの保護を回避してきました。

ハックボット・アズ・ア・サービス：サイバー犯罪における成長中のトレンド

最近の研究によれば、一般公開されている言語モデルは通常、ソフトウェアのセキュリティの弱点を悪用することに失敗します。しかし、OpenAIのGPT-4のみが有望な機能を示しており、既知の欠陥に対する実行ファイルを生成することができました。上記の制限は、おそらくサイバー犯罪者による悪意ある活動を実行するのを支援するために設計されたプロトタイプ的な悪意あるチャットボットの生産を促進したと思われます。 

これらはダークウェブのフォーラムやマーケットプレイスで宣伝されており、攻撃者を雇い悪用する力を提供することで、ハックボット・アズ・ア・サービスというモデルに拍車をかけています。2023年8月にTrustwave SpiderLabsチームによって公開された最近のブログ投稿は、利益のために複数の隠されたウェブメッセージボードでホストされている悪意ある言語モデルの増加した量を示しています。

Trustwaveは2021年6月、これらのハッカーの知られた悪意ある言語モデルの一つであるWormGPTモデルを投稿しました。このアプローチは、ボットがダークウェブでホストされたハッキング構造によってサイバー攻撃を注入する機器で発生する可能性があります。2023年7月に生成されたFraudGPTは、Telegramに到達する前にNetenrichの脅威研究者によって最初に特定されました。

これらのツールは、攻撃者がフィッシングメール、ディープフェイク、音声クローンなどのソーシャルエンジニアリング攻撃で使用する資産を設計することを可能にします。しかし、その作成者たちは、その真の価値は脆弱性の悪用にあると主張しています。これらはハッカーが特定の脆弱性に関するコードをこれらの悪意あるモデルに供給することを可能にし、理論的には攻撃者が試すための複数の概念実証（PoC）エクスプロイトを生成することができます。

これらの製品は、ダークウェブの密売市場で販売されており、ハッカーはハックボットを使用するために月額ライセンス料を課金されます。これは、今日多くの企業が直面している複雑なランサムウェアに直接接続されたランサムウェア・アズ・ア・サービス（RaaS）モデルでランサムウェアが配信されるのと同じです。

WormGPTが最初に導入された大規模な悪意ある言語モデルであるのに対し、BlackHatGPT、XXXGPT、WolfGPTなどの他の悪意あるおよび非倫理的な言語モデルもすぐに続き、サイバーブラックマーケットの新たな市場セグメントを形成しました。

ハックボットの有効性：過大評価か、それとも本物の脅威か？

Trustwaveによる研究は、推奨ツールの効率性をテストするために、それらの出力を並べて比較し、正規のチャットボットによって生成された出力と比較するものでした。その所見は、ChatGPTが適切なプロンプトを用いてPythonマルウェアを効果的に作成できることを示しました。これを行うには、コードがデプロイ前にホワイトハットのものであると主張するメッセージを送信する必要があり、出力されたコードにも追加の変更が必要でした。

ChatGPTはフィッシング攻撃のための実際のテキストメッセージを生成できるかもしれませんが、その効果には非常に具体的な指示コマンドが必要です。ChatGPTは、ユーザーが誤ったものを要求した場合にのみ、一般的にこれに基づきます。この事実により、これらのチャットボットは、ページやマルウェアを作成するために退屈に作業する代わりに、サイバー犯罪者やAIがチャッターを攻撃するためのより単純な方法として見なすことができます。

この業界は新しく、脅威はまだ流動的ですが、企業は現在の保護レベルを真に認識する必要があります。AIシステムが溢れているコンテンツや文化的特性は、より強力なAIセキュリティプログラムとアイデンティティ管理ツールを作成することでしか埋められない誤情報ギャップを作成するために悪用される可能性があります。

成長する問題に対する解決策の正当性は依然として議論されています。しかし、最近のランサムウェアの系統は、サイバー犯罪者がソフトウェア開発者の開発速度に追いつき、もし超えられないとしても凌駕できることを示しています。