AIの採用は新たなサイバーセキュリティ脅威を暴露する

サイバーセキュリティの専門家は、AIが、犯罪者による攻撃実行だけでなく、合法的にも、それをサービスとして使用する企業にとって安全でないサイバーセキュリティ脅威であると明らかにしました。

AIのサイバー脆弱性

AIを使用して攻撃を提供する悪意のある行為者による脅威は広く議論されてきましたが、AI専用のサイバーセキュリティを提供するMidgardのCEO兼CTOであるPeter Garraghan氏は、「私が考えている問題は、AIに対するサイバーセキュリティ脅威であり、それがトピックにおけるものです」と述べています。

予測可能ですが、企業によるAIの最も一般的で、したがってリスクのある使用は、カスタマーサービスとして機能し、そのトーンとデータが通常、代表する組織のためにカスタマイズされているチャットボットに関連しています。ここで、AIセキュリティとシステムに特化したランカスター大学のDr. Garraghanは、2022年にMindgardを見つけることにしました。「AIは魔法ではありません」と彼は言います。それは単なる追加のコーディング、データ、およびハードウェアの組み合わせです。現代のサイバー脅威を考慮すると、これらのすべての脅威はAIでも現れる可能性があります。

これをこのように考えてみましょう：攻撃者がSQLインジェクションとして知られるプロセスを使用すると仮定します。攻撃者は、そのプロセスを使用して、ウェブサイトログインやコンタクトフォームのようなウェブフォームフィールドの脆弱性を悪用できます。テレプロンプター摂取が使用される別の方法は、パブリックアプリケーションで使用されるプロンプトインジェクションです。第一に、セキュリティが十分に確保されていない場合、AIツールは実際にはソースコード、指示、会社のIP、または顧客データを漏洩するように鞭打つことができます。第二に、AIツールは、他のソフトウェアアプリケーションと同様に、欠陥を特定するためにリバースエンジニアリングされる可能性があります。

AIシステムの保護

Garraghan氏は、問題の重大性について述べています：想定される未来では、数年以内に、国家安全保障の要因が生じるか、疎外された人々がリスクにさらされる可能性があります。新しい情報は警告のように見えます：企業は公開されたデータに注意すべきです。

Garraghan氏は、「さらに、AIはデータ漏洩を引き起こすサイバー攻撃ツールとして機能できます。モデルは、あなたが親切に要求したデータを提供できるようになります。」1月の例を提示すると、右翼のソーシャルメディアプラットフォームGabは、 accidentally 彼らの指示を明らかにしたチュートリアルを探しました。GPTベースのプラットフォームOpenAIも以前、そのモデルが悪用されました。

Garraghan氏は、情報が不正なVoIP攻撃から取得される可能性があると主張しています。また、AIはリバースエンジニアリングされ、システムはバイパスされたり、他のシステムへのオープンアクセスにだまされたりする可能性があります。したがって、情報漏洩は、外部または内部向けのいずれかである可能性のある業界を含むすべての業界にまたがる主要な領域の1つになる可能性があります。彼はまた、モデルの回避、すなわち、欺瞞的なデータを捏造することによってモデルを誤導したり、意図的に回避したりするなどの他のリスクを列挙しています。

ガランは、音声トラックに悪意のあるコマンドを挿入したり、誤った解決策でデータを汚染したりすることが別の脅威であると指摘しました。さらに、彼は一般的なサイバー影響は、サイバー攻撃後に一般的に経験される評判への損害であると述べています。同様に、この種のサイバー攻撃の否定的な結果に対して最もリスクが高い領域は、ステークスが最も高い場所です。オンラインで運営する多くの産業や機関において、例えば、公共の安全や漏洩した機密情報の欠如は、金融サービスや医療セクターが優先すべき重要な価値です。

ガランは次のように述べています。ここで重要なのは、業界で構造化され、統制が厳しいほど、AI（および経験則として：AIの使用が少ないほど、採用も少ない）からのリスクが大きくなるほど、AIの質は悪化するということです。もしかすると、彼らは怠け者ではないのかもしれません。例えば、彼らは単に人生の最も深刻な段階を通過しているだけかもしれません。

プロアクティブなAIセキュリティ対策

AIは、特定の企業におけるこれらのリスクを処理しますが、彼は、ユーザーの保護のためにセキュリティの層が必要になると述べています（ビジネスにおけるAIはすでにそれらを必要とするため）。「あなたはすでに異なるセクターに特化したサイバーセキュリティツールを持っています」とGarraghan氏は言います。「これらには、セキュリティ姿勢管理ツール、検出、対応ツール、ファイアウォール、コードスキャンなどの左側へのシフト設計のサポートが含まれます。あなたは soon AIをデジタルトランスフォーメーションに合わせて必要とするでしょう。」このジャンルはAIとMLに専念しており、ニューラルネットのようなシステムは時々しか言及されません。

アプリ間のより良い制御のために、ニューラルネットワークのアプリケーションスキャナー、あらゆる種類のニューラルネットワークのレスポンスシステム、セキュリティテスト、レッドチーム演習が必要になります。ランタイムの問題に対処するよりも、早期に修正して是正する方が容易です。ただし、AIモデルや購入したAIアプリケーション・サービスを使用する組織に対して推奨されるベストプラクティスは、本番環境にデプロイする前に、モデルに関するすべての問題を修正することが容易であるという点です。その後、本番環境に移行した後、修正が必要な問題のみが特定されます。