サイバー犯罪者がAIおよびML技術を悪意ある目的で悪用

トレンドマイクロ、国連国際犯罪・司法研究所（UNICRI）、および欧州警察庁（Europol）が共同で発表した新しい研究論文は、サイバー犯罪者が人工知能（AI）および機械学習（ML）技術を悪意ある目的でどのように悪用しているかを明らかにしています。

ビジネスにおけるAIとML

AIとMLは、よりダイナミックな世界の実現を急速に推進しています。これらの技術は、より高い効率性、自動化レベルの向上、自律性をもたらすことを約束しています。AIは第4次産業革命の中核にあるデュアルユース（両義性）技術です。AIのサブフィールドであるMLは、アルゴリズムを通じて大量のデータを分析してパターンを見つける技術であり、企業、組織、政府はこれによりイノベーションを促進し、ビジネスを改善する驚くべき成果を上げることができます。2020年までに、37%の企業や組織がすでにシステムやプロセスにAIを組み込んでいました。AIおよびML搭載のツールにより、企業は顧客の購買行動をより正確に予測でき、収益増加に貢献しています。Amazonのような一部の企業は、MLおよびAI搭載のツールの支援により、非常に収益性の高いビジネスを構築しています。

AIおよびMLの悪用と乱用

AIとMLはビジネスをサポートし、社会が直面する最大の課題の一部を解決する手助けをすることができますが、これらの技術はまた、広範なデジタル、物理的、および政治的な脅威を可能にする可能性があります。AIおよびMLシステムをビジネスに不可欠なものにする特徴は、サイバー犯罪者が不正な利益を得るために悪用・乱用するのと同じ特徴です。

*ディープフェイク*: AIの一般的な乱用の一つにディープフェイクがあります。これは、AI技術を使用して音声や視覚コンテンツを作成または操作し、本物のように見せるものです。ディープフェイクは、正当なコンテンツと見分けがつかないため、虚偽情報キャンペーンに適しています。ディープフェイクは、マレーシアの連立政権を不安定にしたとされるディープフェイク動画や、英国のエネルギー企業をだまして約20万ポンドをハンガリーの銀行口座に送金させたディープフェイク音声など、悪意ある目的で現実を歪曲する可能性があります。

*AI支援のパスワード推測*: サイバー犯罪者は、ユーザーのパスワードを推測するためのアルゴリズムを改善するためにMLを活用しています。ニューラルネットワークや敵対的生成ネットワーク（GANs）を使用することで、サイバー犯罪者は膨大なパスワードデータセットを分析し、統計的分布に適合するパスワードのバリエーションを生成でき、より正確で標的を絞ったパスワード推測が可能になります。

*ソーシャルネットワーキングプラットフォーム上での人間になりすまし*: サイバー犯罪者は、ソーシャルメディアプラットフォーム上で人間の行動を模倣するためにAIを悪用しています。例えば、Spotify上のAI支援ボットは、人間の使用パターンを模倣してボット検知システムをだまし、特定のアーティストのために不正なストリームやトラフィックを生成することができます。

*AI支援のハッキング*: サイバー犯罪者は、脆弱なホストをハッキングするためにAIフレームワークを武器化しています。例えば、ML対応のペネトレーションテストツールであるDeepExploitや、Wi-Fiハッキング用のデ認証攻撃を開発したPWnagotchi 1.0.0は、ハッキング性能を向上させるためにニューラルネットワークモデルを使用しています。

AIおよびMLの将来の悪用と乱用

将来、犯罪者はAIを悪用して攻撃の範囲と規模を拡大し、検知を回避し、攻撃ベクトルおよび攻撃対象としてAIを乱用することが予想されます。AIは、コンテンツ生成を通じて攻撃の最初のステップを自動化し、ビジネスインテリジェンスの収集を改善し、潜在的な被害者やビジネスプロセスが侵害される検出速度を加速させることができます。また、AIは暗号通貨取引慣行を操作したり、爆弾を搭載したAI搭載の顔認識ドローンなど、個人に危害を加えたり物理的な損害を与えたりするために乱用される可能性があります。

AIおよびML技術には多くの肯定的なユースケースがありますが、犯罪や悪意ある目的のために乱用されることもあります。これらの技術がどのように悪用されているかを示す機能、シナリオ、攻撃ベクトルを理解し、高度な攻撃や乱用からシステム、デバイス、および一般大衆を保護することは不可欠です。

研究について

「Malicious Uses and Abuses of Artificial Intelligence（人工知能の悪意ある使用と乱用）」というタイトルの研究論文は、トレンドマイクロ、国連国際犯罪・司法研究所（UNICRI）、および欧州警察庁（Europol）の共同作業です。この論文では、AIおよびML技術の現在の悪意ある使用と乱用、およびサイバー犯罪者が不正な利益を得るためにこれらの技術を乱用する可能性のある将来のシナリオについて議論しています。

AIおよびML技術には、視覚認識、音声認識、言語翻訳、パターン抽出、およびさまざまな分野や業界での意思決定機能など、多くの肯定的なユースケースがあります。しかし、これらの技術は犯罪や悪意ある目的のために乱用されることもあります。これらの技術がどのように悪用されているかを示す機能、シナリオ、攻撃ベクトルを理解し、高度な攻撃や乱用からシステム、デバイス、および一般大衆を保護することは不可欠です。