悪意あるAIチャットボットの台頭：脅威アクターは「ハックボット」を利用

AIの人気は、善意を持つ人々だけでなく、より悪意のある意図を持つ人々にも波及している。セキュリティ専門家は警鐘を鳴らし、こうしたモデルを用いた悪意のあるテキスト生成、いわゆる「ハックボット」が、脅威アクターの間で広く知られるようになったと指摘している。これは、サブスクリプション型サービスにおいて、もはやターンキーサービスのようなレベルにまで達している。

AIツールを活用するサイバー犯罪者

サイバーセキュリティの専門家は、AIを活用したツールがシステムの保護を強化する可能性をいち早く認識しました。一方、脅威アクターもまた、攻撃対象が残したセキュリティ上の欠陥を突くために、これらのテクノロジーを積極的に活用しています。ここ数年、悪意のあるアクターによって利用されるAIアプリケーションの数は急増しており、セキュリティチームはAI関連の脅威を阻止するための適切なアプローチに注目するようになりました。.

一方、英国のサイバーセキュリティ専門家も、AIが未知の領域と絶えず変化する性質を伴う新たなリスクであると指摘しています。NCSC は 、2024年第1四半期が最大のリスクになると予測しており、2022年と2023年の記録を上回りました。巧妙な犯罪者は、フィッシング詐欺や音声認識デバイスを用いて、有名人を動画や音声の場に誘導する言語モデルをソーシャルエンジニアリングにも利用しました。マイクロソフトのセキュリティ担当副社長であるバスクット・ジャッカル氏は、dent の増加と10倍の相関関係にありますdent関連攻撃

一部の専門家は、チャットボットが独自のフレーズを使ってマルウェアを積極的に開発していると結論付けています。実際、ChatGPTやGeminiなどの公開サービスは、悪意のある目的での悪用を防ぐための安全対策を実装しています。しかし、ハッカーは高度で迅速なエンジニアリング技術によって、多くの保護を回避しています。.

サービスとしてのハックボット：サイバー犯罪の増加傾向

最近の調査によると、公開されている言語モデルは、ソフトウェアのセキュリティ上の脆弱性を悪用することができないことが多い。しかし、OpenAIのGPT-4だけが、既知の脆弱性に対する実行ファイルを生成できるため、有望な機能を示している。上記の制約は、サイバー犯罪者の悪意ある活動を支援するために設計された、典型的な悪意のあるチャットボットの作成を促進した可能性が高い。. 

これらはダークウェブのフォーラムやマーケットプレイスで宣伝されており、攻撃者を雇用して悪用する手段を提供することで、サービスとしてのハックボット（Hackbot-as-a-Service）の普及を促進しています。Trustwave SpiderLabsチームが2023年8月に公開したブログ記事の一つは、複数の非公開ウェブ掲示板で営利目的でホストされている悪意のある言語モデルの増加を示しています。.

Trustwaveは2021年6月に、これらのハッカーが用いる既知の悪意ある言語モデルの1つであるWormGPTモデルを公開しました。このアプローチは、ダークウェブにホストされたハッキン​​グ構造によってボットがサイバー攻撃を仕掛ける機器で発生する可能性があります。2023年7月に生成されたFraudGPTは、Telegramに到達する前にNetenrichの脅威研究者によって初めて解明されました。.

これらのツールは、フィッシングメール、ディープフェイク、音声クローンといったソーシャルエンジニアリング攻撃に用いられるアセットを攻撃者が設計することを可能にします。しかし、作成者たちは、これらのツールの真の価値は脆弱性を悪用することにあると主張しています。ハッカーはこれらのツールを使用することで、特定の脆弱性に関するコードをこれらの悪意のあるモデルに入力することができ、理論的には攻撃者が試すための複数の概念実証（PoC）エクスプロイトを生成することができます。.

これらの製品はダークウェブの秘密市場で販売されており、ハッカーはハックボットの使用料として月額ライセンス料を請求されます。これは、多くの企業が現在直面しているランサムウェア コンプレックスに直接関連するランサムウェアが、サービスとしてのランサムウェア (RaaS) モデルで配信されるのと同じです。.

WormGPT は初めて導入された大規模な悪意のある言語モデルですが、その後すぐに BlackHatGPT、XXXGPT、WolfGPT などの悪意のある非倫理的な言語モデルが登場し、サイバー ブラック マーケットの新しい市場セグメントを形成しました。.

ハッキングボットの有効性: 誇大広告か本物の脅威か?

Trustwaveによる調査は、推奨ツールの出力結果を正規のチャットボットの出力結果と比較することで、それぞれのツールの有効性を検証するものでした。しかし、今回の調査結果では、 ChatGPTは 適切なプロンプトを使用することで、Pythonマルウェアを効果的に作成できることが示されました。そのためには、展開前にコードがホワイトハットであると主張するメッセージを関係者に送信する必要があり、コード出力にも追加の修正が必要でした。

ChatGPTはフィッシング攻撃のために実際のテキストメッセージを渡すことができるかもしれませんが、その場合、指示するコマンドは非常に具体的である必要があります。ChatGPTは通常、ユーザーが不正な要求をした場合にのみこれを利用します。この事実から、これらのチャットボットは、サイバー犯罪者やAIにとって、ページやマルウェアを作成する手間をかけるよりも、チャットボットを攻撃するためのより簡便な手段と見なすことができます。.

この業界は新興産業であり、脅威は依然として流動的ですが、企業は現在の保護レベルを真に認識する必要があります。AIシステムに氾濫するコンテンツや文化的特性は、偽情報のギャップを生み出すために悪用される可能性があり、これを埋めるには、よりtronなAIセキュリティプログラムとdent管理ツールを構築するしかありません。.

深刻化する問題に対する解決策の正当性については、依然として議論が続いています。しかし、近年のランサムウェアの亜種は、サイバー犯罪者がソフトウェア開発者の開発速度に匹敵、あるいは凌駕する可能性があることを示しました。.