- DARPAは、AIベースのセキュリティツールの高度化を目指し、賞金総額2,000万ドルを提供する「AI Cyber Challenge (AIxCC)」を開始しました。
- セキュリティにおけるAIの影響はまだ不確実ですが、専門家はその可能性を見逃すよう警告しています。
- 生成AIから進化しつつあるマルチモーダルAIは、間もなくチャット、動画、ボディランゲージを解釈できるようになります。
人工知能（AI）、特にGPTのような大規模言語モデル（LLM）は、ラスベガスで開催された最近のBlack HatおよびDef Conカンファレンスでの議論の焦点となっていました。しかし、専門家は、内部データの保護からアプリケーションの開発に至るまで、AIが企業のセキュリティ姿勢にどのような影響を与えるかについて意見が分かれています。
Armのリバースエンジニアリングおよびエクスプロイトの専門家であるMaria Markstedter氏は、OpenAIのCEOであるSam Altman氏の「AIはおそらく世界の終わりにつながるだろうが、その間には素晴らしい企業が生まれるだろう」という発言を要約しました。Markstedter氏はBlack Hatでの基調講演で、「Move fast, break shit（速く動け、壊せ）」というモットーを推奨し、製品は当初セキュリティ機能に欠けていることが多く、企業がセキュリティに投資することを強制されなければならないことを強調しました。
生成AIとマルチモーダルAI
現在テキストに焦点を当てている生成AIは、チャット、ライブビデオ応答、感情分析、さらにはボディランゲージの解釈を処理できるマルチモーダルAIに進化しているとMarkstedter氏は述べています。彼女は、これらのシステムで匿名性を維持し、データセキュリティを再考することの重要性を強調しました。
セキュリティへの影響
AIがセキュリティに与える影響はまだ不確実です。Markstedter氏は、AIがすでにデータセキュリティに影響を与えていることを指摘しました。その証拠として、従業員がデータをブラックボックスのAIチャットボットにコピーしていることが挙げられます。しかし、セキュリティへのより広範な影響は不明確です。LLMは悪意のあるコードを生成できますが、実行はできません。これは、AIのセキュリティにおける潜在的な使用について議論した2人の元OpenAI従業員によるものです。
不確実性にもかかわらず、AIを禁止することが長期的な解決策にならないことについては合意がありました。企業はAI技術の採用に熱心であり、AIセキュリティは最終的にLLMやその他のAI技術を受け入れることを必要とします。セキュリティ専門家は、受け入れない企業は遅れを取ると警告しました。
セキュリティにおけるAIの受容
Markstedter氏は、自律型エージェントの統合はリスクを伴うが、その現実を受け入れ、より安全にするためのソリューションを開発することが不可欠であると主張しました。「これは私たちが自分自身[および]セキュリティ姿勢を再発明するチャンスです」と彼女は述べ、コミュニティが協力して研究を促進することを呼びかけました。
DARPA AIサイバーチャレンジ
防衛組織であるDARPAは、Black HatおよびDef Conの参加者に、次世代のAIベースのレスポンシブセキュリティシステムを作成するのを支援するよう挑戦しました。DARPAの情報革新オフィス（Information Innovation Office）のプログラムマネージャーであるPerri Adams氏は、Black Hatの基調講演で2年間のAI Cyber Challenge（AIxCC）を発表しました。
AIxCCは、新世代のサイバーセキュリティツールの開発を目指し、最良のシステムを作成したチームに合計2,000万ドルの賞金を提供します。競技には2つのトラックがあります。Funded TrackとOpen Trackです。Funded Trackの参加者は、Small Business Innovation Research（SBIR）の募集に提出された提案から選出され、最大7社の中小企業に最大100万ドルの資金が提供されます。Open Trackの参加者は、DARPAの資金なしで競技ウェブサイト経由で登録できます。
2024年、DefConは上位5社を決定し、追加の200万ドルの資金で第2ラウンドの実験に進みます。2025年のDef Conの優勝者には、1位に400万ドル、2位に300万ドル、3位に150万ドルが授与されます。
主要なAI企業との協力
AIxCCは、Anthropic、Google、Microsoft、OpenAIなどの主要なAI企業とパートナーシップを組んでいます。Linux Foundationのプロジェクトであるオープンソースセキュリティ財団（OpenSSF）は、国の重要インフラやソフトウェアサプライチェーンのセキュリティなど、重要なサイバーセキュリティ問題に対処できるAIシステムの作成をチームにガイドするチャレンジアドバイザーとして機能します。
AIxCCの競技はDEF CONで開催され、準決勝フェーズと決勝フェーズの2つのフェーズで構成されます。両方の競技は、2024年と2025年にラスベガスのDEF CONで開催されます。
暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。
免責事項。 ここに提供される情報は取引助言ではありません。 Cryptopolitan.com 当社は、このページに提供される情報に基づいて行われたいかなる投資に対しても責任を負いません。いかなる投資判断を下す前に、独立した調査および/または資格を有する専門家への相談を強く推奨します。
ジョン・パーマー
John Murangiri氏は、市場分析のスキルを身につけてCryptopolitanに参加しました。John（通称JP）はナイロビ大学でマスコミュニケーションおよびメディア研究の学士号を取得し、これまでにInsideBitcoins.comやMetacoingraphで暗号資産市場の洞察を提供してきました。
