生成AIツールによるサイバー犯罪の高度化

あるサイバーセキュリティ企業が懸念すべき発見をしました。WormGPTと呼ばれる生成AIツールが犯罪者に販売されているのです。また、PoisonGPTと呼ばれる別の悪意ある生成AIツールも登場し、オンラインで偽ニュースを意図的に拡散するように設計されています。生成AI技術の使用がより広範になるにつれ、法執行機関は不正な行為者や犯罪者による悪用可能性に対してますます懸念を強めています。これらのツールは、生成AIが違法活動に悪用される最新例を表しており、業界の倫理的境界と、より大きな規制の必要性に関する疑問を提起しています。

悪意ある生成AIツール

サイバーセキュリティ企業SlashNextによって最近発覚したWormGPTは、悪意ある活動のために特別に設計されたブラックハットの代替手段です。このツールは、2021年に開発されたオープンソースのGPTJ言語モデルに基づくAIモジュールを利用しています。無制限の文字サポート、チャットメモリ保持、コードフォーマット機能など、さまざまな機能を提供します。SlashNextはWormGPTを使用して欺瞞的なメールを生成する実験を行い、無防備なアカウントマネージャーを圧迫して不正な請求書の支払いを促す試みを行いました。その結果は不安を呼び起こすものであり、洗練されたフィッシング攻撃やビジネスメール詐欺（BEC）攻撃の可能性を示しています。

もう一つの懸念すべき展開は、Mithril Securityというサイバーセキュリティ企業が、GPTJをオンラインでの誤情報拡散にどのように活用できるかをテストしたことです。彼らはPoisonGPTというツールを作成し、開発者向けにAIモデルを配布するプラットフォームであるHugging Faceにアップロードしました。この悪意あるモデルは偽ニュースを拡散するように偽装されていました。懸念すべき点は、犯罪者が大規模言語モデルを操作し、Hugging Faceのようなモデルプロバイダーを通じて配布できることです。これにより、被害者は無意識にポイズンされたモデルを使用することになります。これは、ユーザーが使用するモデルの生成に使用されたデータセットやアルゴリズムについてほとんど洞察を得られないため、AIサプライチェーンにおける信頼と透明性のより大きな問題を浮き彫りにしています。

AIの広範な導入に伴う倫理的考慮事項

OpenAIの利用ポリシーは、違法な活動や他者を搾取・危害するコンテンツのモデル使用を厳格に禁止しています。しかし、生成AIツールがよりアクセスしやすくなるにつれ、犯罪者や不正な行為者による悪用のリスクは増加します。それでもなお、AIイノベーションの境界が拡大するにつれて、悪意ある要素や犯罪者による悪用のリスクも高まります。このエスカレートする懸念は、EuropolやInterpolといった尊厳ある法執行機関の注視から逃れていません。これらは、AIが彼らの崇高な使命を支援するために持つ巨大な可能性に鋭敏に気づいています。

Interpolは、世界中の警察部隊にAIの力を与える専用ツールの開発において積極的な一歩を踏み出しています。自動パトロールシステム、脆弱な個人の特定、緊急通報センターの効率的な管理は、AIが社会の福祉を守る上で無価な同盟者であることを証明している領域の一部に過ぎません。AIの建設的な利用の約束と並んで、これらの洗練されたシステムが提示する限界と内在するリスクを認識することも同様に重要です。この観点から、サイバーセキュリティ分野の利害関係者、業界のリーダー、法執行機関が、AIの急激な台頭とその社会の基盤に与える広範な影響にもたらされる課題に取り組むために、一致団結した努力を払うことが不可欠となります。

WormGPTやPoisonGPTという悪意ある生成AIツールが地下で密かに販売され、AI物語の最新の暗黒章が幕を開けるにつれて、堅牢な規制枠組みを求める声はかつてないほど高まっています。犯罪者や悪意のある行為者は、これらのAIの驚異を悪意のある目的を推進するために悪用しようとしており、倫理的ジレンマとセキュリティ上の影響に対処するための協調的アプローチの緊急性を強調しています。イノベーションへの絶え間ない追求と、AI技術の責任ある管理との間の繊細なバランスを取ることが、AIの未来を支える倫理とセキュリティの核心原則を損なうことなく、その継続的な進歩を確保するために最も重要となります。