北朝鮮関連のハッカーがChatGPTを使用して偽の軍事IDを作成

北朝鮮支援のハッキンググループ「キムスクィ」は、ChatGPTを使用して偽の韓国軍の身分証明書を作成し、ジャーナリスト、研究者、人権活動家を標的としたフィッシング攻撃を実行しました。これはサイバーセキュリティ企業のGeniansの報告によるものです。

偽の身分証明書を含むメールには、受信者のデバイスから情報を盗むために構築されたマルウェアが含まれていました。このキャンペーンは、北朝鮮のサイバー作戦がグローバルなスパイ活動を行うためにAIを使用するというより広いパターンの一環です。

フィッシングメールは、実際の軍事アカウントからのもののように装飾されていました。拡張子は.mil.krでした。写真の添付やIDの画像はありませんでした。代わりに、標的のシステムに感染するための隠されたペイロードが用意されていました。

Geniansは、偽の軍の身分証明書が生成されたことを確認しました ChatGPT プラットフォームの制限を回避した後。IDを直接生成するように依頼された際、ツールは当初拒否しました。しかし、研究者たちはプロンプトの書き方を変更することで、ブロックを回避することに成功しました。

プロンプトが書き換えられると、システムは説得力のある下書きを生成し、被害者が埋め込まれたマルウェアをクリックするよう誘うのに十分なものでした。

AIツールが北朝鮮のハッカーに偽の履歴書、身元、マルウェアの作成を支援

同じ戦略は韓国に限定されませんでした。8月、AI企業のAnthropicは、北朝鮮のハッカーが自社のClaude Codeモデルを使用して、米国フォーチュン500企業のリモートワークに応募していることを発見しました。

ハッカーたちはClaudeを使用してコーディング面接を通過し、完全な職歴を作成し、採用された後も技術的な課題をこなしました。この作戦により、北朝鮮はファイアウォールを突破する必要なく、米国の企業システムに直接アクセスできるようになりました。

2月、OpenAIは、偽の履歴書、カバーレター、ソーシャルメディアの投稿を作成するためにそのツールを使用した北朝鮮に関連するアカウントを禁止しました。これらのプロフィールは、人々を騙して、意図的か意図的でないかにかかわらず、政権のキャンペーンを支援させることを目的としていました。

Geniansのディレクターであるムン・チョンヒョンは、これらの新しい技術が、北朝鮮が計画やツールの作成からフィッシング、なりすましに至るまで、ハッキングプロセスのあらゆる段階にAIを統合したことを示していると述べています。

「攻撃者はAIを使用してシナリオをマッピングし、マルウェアを作成し、リクルーターになりすますことができます」とムンは述べています。米国政府は、北朝鮮のサイバー活動がより大きな作戦の一部であると述べています。

彼らは、平壌の政権が、ハッキング、暗号通貨の窃盗、シャドウIT契約を使用してデータを収集し、情報を集め、国際的な制裁を回避しながら核兵器プログラムを支援するための資金を調達していると信じています。

2020年、米国国土安全保障省は、キムスクィが「おそらく北朝鮮政権によってグローバルな情報収集ミッションを任されている」と記した公式助言を発行しました。

このグループは2012年から活動しており、韓国、日本、米国の外交政策専門家、シンクタンク、政府機関への攻撃に焦点を当ててきました。

彼らは通常、スピアフィッシングメールを使用してシステムに侵入し、機密情報を抽出し、核戦略、制裁、地域安全保障に関する高レベルの議論を追跡します。

米国と韓国の当局者は、脅威の高まりを警告

Genians レポート は、最新の被害者が慎重に選ばれたことも確認しました。ハッカーたちは、北朝鮮に関連する問題に強い関わりを持つ活動家、ジャーナリスト、防衛研究者などを標的としました。実際に侵害されたデバイスの数はまだ不明です。

しかし、彼らが韓国の軍事メールドメインをスプーフィングし、一見無害なメッセージにマルウェアを挿入できたという事実は、この方法がいかに危険であるかを示しています。

調査中、GeniansはChatGPTを使用してハッカーたちの手法を再現しようとしました。彼らの実験により、ChatGPTは偽の政府IDのような違法コンテンツをブロックするように設計されているものの、攻撃者は言語のわずかな変更でそれを回避できることが確認されました。

最終的な結果は、手遅れになるまで疑わしく見えなかったIDテンプレートでした。

CISA、FBI、CNMFは現在、北朝鮮に関連する機密分野で働くすべての人にセキュリティを強化するよう呼びかけています。彼らは、Kimsukyがフィッシング、偽の採用担当者アカウント、なりすましドメインを使用してネットワークに侵入し続けていると警告しています。

主な提案には、多要素認証の有効化、フィッシング防止意識向上トレーニングの実施、不審なメールに対するより強力なフィルターの設定が含まれます。

米国の情報コミュニティは長年、サイバー作戦が北朝鮮が制裁を回避するための主要なツールの一つであると述べてきました。