OpenAIは次世代AIモデルがハッカーのツールになる可能性があると警告

による

ヌール・バズミ

読了時間3分 2025年12月11日

OpenAIは、次世代AIモデルがハッカーのツールになる可能性があると警告している。

OpenAIは、今後開発予定のAIモデルがサイバーセキュリティリスクレベル「高」に達し、ゼロデイ攻撃を誘発したり、重要システムに対する高度な攻撃を助長したりする可能性があると警告している。
セキュリティ課題に対するパフォーマンスはわずか 3 か月で 27% から 76% に急上昇し、能力の急速な向上が示されました。
同社は、セキュリティチーム向けの信頼できるアクセス、Aardvark 脆弱性スキャナー、新しい Frontier Risk Council などの防御プログラムを立ち上げています。

ChatGPTを開発する企業は水曜日、同社の次世代人工知能システムに潜む潜在的危険性について厳しい警告を発し、深刻なサイバーセキュリティの脅威となる可能性があると述べた。

OpenAIは、将来のAIモデルが、厳重に保護されたコンピュータシステムを標的とした機能的なゼロデイ攻撃を作成できるようになる可能性があると述べた。この技術は、企業や産業施設に対して、現実世界に損害を与えることを目的とした高度な攻撃を実行するのにも役立つ可能性がある。

事態は急速に進展しています。OpenAIのブログよると、キャプチャー・ザ・フラグ・セキュリティチャレンジの成績は、2025年8月のGPT-5では27%でしたが、わずか3か月後の2025年11月にはGPT-5.1-Codex-Maxで76%にまで向上しました。

OpenAIは現在、構築する新しいモデルが、いわゆる「高い」レベルのサイバーセキュリティ能力に到達できると想定しています。これは、十分に保護されたネットワークにおける未知の脆弱性を突く実用的なエクスプロイトを作成したり、重要インフラを標的とした複雑な侵入キャンペーンを支援したりできるシステムを意味します。

マイクロソフトの支援を受けるOpenAIは、セキュリティ防御におけるモデル性能向上に投資していると述べた。同社は、セキュリティチームがコードの問題をチェックし、セキュリティホールを修正するためのツールを開発している。OpenAIは、防御側が通常、数で劣り、リソースも不足しているため、防御側に優位性を与えたいと考えている。

ここからが厄介なところです。防御的サイバーセキュリティと攻撃的サイバーセキュリティは、同じ基本的な知識と手法を用いています。防御側に役立つものは、攻撃側にとっても同様に役立つ可能性があります。OpenAIは、単一の保護対策に頼ることはできないと述べています。複数のセキュリティ対策が連携して機能する必要があるのです。

同社はアクセス制限、tronなインフラセキュリティ、情報フローの制御、そして継続的な監視を実施しています。また、サイバー攻撃につながる可能性のあるリクエストを拒否するモデルをトレーニングしながら、正当なセキュリティ業務や教育に役立てています。

検出システムは、高度なモデルを用いて、製品全体にわたる不審なアクティビティを監視します。危険なアクティビティが検出された場合、システムは結果をブロックしたり、より弱いモデルに切り替えたり、人間によるレビューのためにフラグを付けたりします。

限界を試す

OpenAIは、あらゆる防御策の突破を試みる専門のセキュリティテストグループと連携しています。彼らは、膨大なリソースを持つ攻撃者がどのような行動をとるかをシミュレートし、実際の脅威よりも先に弱点を発見することに成功しています。

AIによるサイバーセキュリティリスクは、業界全体の人々を懸念させています。Cryptopolitanが以前報じたように Cryptopolitan ハッカーはすでにAI技術を利用して攻撃を強化しています。

同社は、サイバーセキュリティ対策に取り組む資格のあるユーザーに、最新モデルの拡張機能への特別なアクセスを提供するプログラムを計画している。OpenAIは、どの機能を広く利用できるか、どの機能をより厳しい制限が必要か、現在検討中である。

そして、Aardvarkというツールがあります。このセキュリティツールは現在非公開テスト中で、開発者やセキュリティチームが大規模な脆弱性を発見し、修正するのに役立ちます。コードをスキャンして弱点を探し出し、修正案を提示します。このシステムは既にオープンソースソフトウェアの新たな脆弱性を発見しています。OpenAIは、多大なリソースを投入する予定です。これには、一部の非営利オープンソースプロジェクトへの無料サポートの提供も含まれます。

OpenAIはFrontier Risk Councilを設立します。この評議会は、経験豊富なサイバーセキュリティの擁護者と実務家を集めます。このグループはサイバーセキュリティからスタートしますが、他の分野にも拡大していきます。評議会のメンバーは、有用な機能と潜在的な悪用との間の境界を定めることに貢献します。