AIがサイバー詐欺をこれまで以上に説得力のあるものにし、検出を困難にしている

サイバー犯罪者は、人工知能を使用してより洗練されたスキームを実行しています。彼らは、退職金から企業の秘密まで、あらゆるものを標的にしており、その手法はますます発見が困難になっています。

オンラインショッピング客に広告を最適化するために使用される同じ技術が、今では悪意のある行為者によって個人情報を収集し、カスタム詐欺を迅速に開始するために使用されています。本当に迅速にです。

Anthropic、OpenAI、Googleなどの主要なAI企業は、犯罪者がプラットフォームを利用して複雑なフィッシング操作を調整し、有害なソフトウェアを開発し、さまざまなデジタル攻撃を実行していると報告しています。セキュリティ専門家は、犯罪者が企業のリーダーの偽の音声および動画クリップを作成し、従業員をだまして機密情報を漏洩させようとしていると警告しています。

企業や政府機関は、まもなく、コンピュータネットワークの弱点を特定し、ほぼ人間の介入なしで攻撃を計画および実行できる、AI搭載システムの群れに直面する可能性があります。

この技術は、犯罪者がオンラインで操作する方法を変えています。独立系テクノロジー研究機関であるData & Societyで研究を率いるアリス・マリックは、ウォールストリートジャーナルに対し、最大の変化は規模と到達範囲に関わっていると語りました。「本当の変化は範囲と規模です。詐欺はより大きくなり、よりターゲットを絞り、より説得力を持っています。」

ブライアン・シンガーはカーネギーメロン大学の博士課程学生です。彼は、大規模言語モデルがサイバー攻撃および防御にどのように使用されているかを研究しています。彼の推計では？ 世界中のスパムおよびフィッシングメッセージの半分から4分の3が、現在AIシステムから送信されています。

攻撃自体がより信憑性を持っています。企業のコミュニケーションで訓練されたAIシステムは、自然に聞こえ、企業のスタイルに一致する数千のメッセージを生成できます。彼らは経営陣の書き方をコピーします。彼らは公的記録で見つかった最近のニュースに言及します。

この技術は、かつて試みの目印となっていた言語上のミスを海外の詐欺師が隠すのを助けています。犯罪者は偽の動画とコピーされた音声を通じて被害者を装うことができます。彼らは同じ偽の身元を使って、一度に複数の人を標的にします。

ジョン・ハルトクイストはGoogle Threat Intelligence Groupのチーフアナリストです。彼は主要な変化を「規模における信憑性」と説明しています。

悪意のある行為者も標的の選定が上手くなっています。彼らはAIを使用してソーシャルメディアを調べ、大きな人生の困難に直面している人々を見つけます。離婚、家族の死、失業、そしてロマンス詐欺、投資詐欺、または偽の求人情報により脆弱になり得る状況。

ダークウェブ市場が参入障壁を低下させる

サイバー犯罪の参入障壁が低下しています。アンダーグラウンド市場では、現在犯罪目的のためにAIツールを月額わずか90ドルで販売またはレンタルしています。ニコラス・クリスティンはカーネギーメロン大学のソフトウェアおよび社会システム部門を率いています。

彼は、これらのプラットフォームには異なる価格レベルとカスタマーサポートが付属していると述べています。「開発者は、段階的な価格設定とカスタマーサポートを備えた攻撃プラットフォームへのサブスクリプションを販売しています。」

これらのサービスは、WormGPT、FraudGPT、DarkGPTなどの名称で知られています。これらは有害なソフトウェアやフィッシングキャンペーンを作成できます。中にはハッキング技術に関する教材を含むものさえあります。

セキュリティ企業のDarktraceでセキュリティおよびAI戦略担当副社長であるマーガレット・カニンガムは、それはシンプルだと述べています。「コードの書き方を知る必要はありません。ツールを見つける場所を知っていればよいのです。」

最近、「バイブコーディング」または「バイブハッキング」と呼ばれる開発があります。これにより、志望する犯罪者がアンダーグラウンドソースから購入するのではなく、AIを使用して独自の悪意のあるプログラムを作成できるようになる可能性があります。Anthropicは、今年初めに、技術的スキルが限られた「犯罪者」によるランサムウェア作成のためにClaude AIを使用しようとする試みをいくつか停止したことを明らかにしました。

犯罪活動自体が変化しています。サイバー犯罪は長年、ビジネスマーケットプレイスのように機能してきました。典型的なランサムウェア操作には、異なるグループが含まれていました。企業のネットワークに侵入してエントリーを販売するアクセスブローカー。システム内を移動してデータを盗む侵入チーム。そしてマルウェアをリリースし、交渉を行い、利益を分配するランサムウェア・アズ・ア・サービス・プロバイダー。

速度と自動化が犯罪ネットワークを再形成する

AIはこのシステムの速度、規模、利用可能性を増加させました。以前は技術的な知識を持つ人々によって行われていた作業は、現在では自動的に実行できます。これにより、これらのグループはより少ない人数、より低いリスク、より高い利益で運営できるようになります。「これは産業化の次の層と考えることができます。AIは、より多くの熟練労働者を必要とせずにスループットを増加させます」とクリスティンは説明します。

AIは完全に自律的に攻撃を起動できますか？ まだそれほどではありません。専門家は、この状況を完全な自動運転車両への取り組みに例えています。最初の95％が達成されました。しかし、車がいかなる場所、いかなる時間でも自律的に運転できるようにする最後の部分は、まだ遠いものです。

研究者たちは、ラボ環境でAIのハッキング能力をテストしています。Anthropicの支援を受けたカーネギーメロン大学のチームは、今年初めにAIを使用して有名なEquifaxデータ侵害を再現しました。シンガーはカーネギーメロン大学のCyLabセキュリティおよびプライバシー研究所で作業を主導しました。彼はこれを「大きな飛躍」と呼んでいます。

犯罪者は有害な目的のためにAIを利用します。しかし、AI企業は、同じツールが組織のデジタル防御を強化するのに役立つと述べています。

AnthropicとOpenAIは、犯罪者が悪用する可能性のある弱点を見つけるためにソフトウェアコードを継続的に検査できるAIシステムを構築しています。ただし、修正には人の承認が必要です。スタンフォード大学の研究者によって開発された最近のAIプログラムは、ネットワーク内のセキュリティ問題を検索する際、一部の人間テスターよりも優れたパフォーマンスを発揮しました。

AIですべての侵害を防げるわけではありません。そのため、組織は攻撃中も機能し続ける堅牢なネットワークの作成に注力しなければなりません。ハルトクイストはそう述べています。