サイバーセキュリティにおける生成AI：両刃の剣

サイバーセキュリティにおいて、生成人工知能（AI）の採用は、サイバー脅威との継続的な戦いにおいて実務者にとって決定的なツールとなっています。この革新的な技術は顕著な利点を提供する一方で、悪意のある行為者が攻撃を強化するためにその力をますます活用しているため、新たな課題も提示しています。

国家安全保障局（NSA）のサイバーセキュリティ責任者であるRob Joyceは、生成AIが悪意のある活動の特定と対抗においてもたらす顕著な利点を最近強調しました。しかし、彼はサイバー犯罪者によるその悪用に関する growing concerns（高まる懸念）も認めました。

善なる力：サイバーセキュリティの強化

ニューヨークのFordham Universityで開催されたイベントで、Rob Joyceは、生成AIがサイバーセキュリティの取り組みを強化するポジティブな影響について熱弁しました。彼は、生成AIは「悪意のある活動を見つける能力を向上させる」と述べました。このテクノロジーは、セキュリティ担当者に革新的なツールと方法論を提供し、サイバー脅威をより効果的に検出および軽減することを可能にします。

生成AIのサイバーセキュリティにおける主な利点の一つは、脆弱性攻撃を通じてネットワーク上に潜み、安全なアカウントに成りすます脅威アクターに対抗する能力です。これらの偽装アカウントは異常な行動パターンを示し、手動での検出は困難を極めます。生成AIと大規模言語モデル（LLM）は、サイバーセキュリティチームがこれらの不審な活動を収集・分析するのを支援し、悪意ある意図をより迅速に特定することを可能にします。

growing concern：サイバー犯罪者による悪用

生成AIはサイバーセキュリティの強化に大きな可能性を秘めていますが、サイバー犯罪者による悪用により警報が鳴らされています。過去1年間、悪意のある行為者は生成AIツールをますます活用し、詐欺活動やスキャンを拡大してきました。これらの先進技術により、彼らは非常にパーソナライズされた強力なソーシャルエンジニアリング攻撃を仕掛けることができます。

有名なサイバーセキュリティ企業であるMandiantは、前年に警告を発し、生成AIが脅威アクターに、前例のない洗練さでソーシャルエンジニアリング攻撃の新しい波を解き放つことを可能にする可能性があると指摘しました。 

これらのAI支援フィッシング攻撃は、最も警戒心の強いユーザーでさえ欺くように微調整される可能性があり、個人や組織にとって重大な脅威となります。このような懸念は、2023年中を通じてさまざまなセキュリティ専門家によって共有されました。

さらに、Darktraceによる調査は、AI駆動のフィッシング攻撃に関する懸念を提起しました。懸念は、ハッカーが生成AIを継続的に活用して技術を洗練させ、ユーザーが正当な通信と悪意ある意図を見分けることがますます難しくなるという点にあります。

両刃の剣：影響の評価

Rob Joyceは、サイバー犯罪における生成AIの悪用に関する懸念が妥当であると認めました。しかし、彼は国家安全保障機関がこれらのツールを効果的に活用するために達成した顕著な進歩も強調しました。彼は、サイバーセキュリティ専門家が脅威に対抗し、重要な資産を保護するために生成AIを活用する頻度は、悪意ある行為者がその不正な目的のために悪用する頻度と同等であると指摘しました。

Joyceは、生成AIをすべてのサイバーセキュリティ課題に対する万能薬として見るべきではないと警告し、「無能な人を有能にするスーパーツールではない」と述べました。それでもなお、彼はそれがそれを利用する者の能力を高め、より効果的かつ潜在的により危険なものにする stressed（強調）しました。