人工知能企業であるAnthropicとOpenAIは、自社製品に伴うリスクの増大に対処するため、真剣な対策を講じている。アルトマン氏の会社は、脆弱なシステムを保護するために専門家専用のモデルを公開した一方、Anthropicは現在、ユーザーが特定の機能にアクセスする前に本人確認を義務付けている。.
AIモデルが最初に一般に公開されたとき、テキストをジブリ風の絵に変換したり、買い物リストを作成したりするために使われたが、人工知能は急速に国家安全保障上の懸念事項となった。.
Anthropicはなぜ私の運転免許証を要求するのですか？
ハッカーたちは既にAIを使って防御システムを突破しており、 Anthropicはdentを義務化せざるを。現在、ユーザーは特定の機能を利用するために、政府発行の身分証明書（パスポートまたは運転免許証）とライブセルフィーを提出する必要がある。
同社のパートナーであるPersonaがデータ処理を担当している。Anthropicは、AIモデルのトレーニングにユーザーの個人情報を使用しないことを明言しているdentまた、本人確認は「不正利用の防止、利用規約の遵守、および法的義務の履行」のために必要であるとも説明している。
ユーザーがテストに不合格になった場合、またはサポートされていない場所からシステムを使用しようとした場合、アカウントが停止される可能性があります。.
今回の突然の取り締まりは、Anthropic社が自社の新モデル「Claude Mythos Preview」が恐ろしいほどハッキング能力に優れていることを認めたことが原因だ。.
ブログ記事の中で、同社はMythos Previewが「ユーザーの指示があれdentし、悪用することができる」と述べている。
正式なセキュリティ研修を受けていないAnthropic社のエンジニアたちは、Mythos社にリモートコード実行の脆弱性を一夜にして見つけるよう依頼した。同社によれば、「翌朝目覚めると、完全に動作するエクスプロイトが完成していた」という。
新しいAIモデルは本当に危険なのか？
英国のAIセキュリティ研究所（AISI）、Mythosがサイバー能力において「飛躍的な進歩」を遂げたことを確認する評価報告書を発表した
Anthropicの社内ブログ記事には、このモデルの能力に関する最も衝撃的な詳細が記載されている。Mythosは最初のプロンプトを受け取った後、セキュリティの高さで知られるオペレーティングシステムであるOpenBSDに、27年前から存在するバグを発見した。.
Mythosはまた、ほぼすべての主要サービスで使用されているビデオツールであるFFmpegに、16年前から存在するバグを発見した。このツールはファジングと呼ばれる手法で数百万ものランダムな入力によってテストされてきたが、Mythosは2003年のコミットに遡るH.264コーデックの脆弱性を発見した。.
さらに、MythosはFreeBSDのNFSサーバーに17年前から存在する脆弱性を発見し、インターネット上の認証されていないユーザーであれば誰でもサーバーへの完全なルートアクセス権を取得できるエクスプロイトを作成した。.
同社は、Mythos Previewが「完全に自律的にこの脆弱性をdent、悪用した」ことを確認した。このプロセス全体にかかった費用はAPI料金で2,000ドル未満、所要時間は1日未満だった。.
Mythosは、主要なウェブブラウザすべてに脆弱性を発見した。あるケースでは、JITヒープスプレーを含む4つの脆弱性を連鎖的に利用したブラウザエクスプロイトを作成し、ブラウザのレンダラーサンドボックスとオペレーティングシステムのサンドボックスの両方を突破することに成功した。.
Anthropic社は、オープンソースおよびクローズドソースのソフトウェア全体で、「数千件もの深刻度の高い脆弱性」を発見した。これらのバグの99%以上はまだ修正されていない。.
OpenAIのセキュリティリスクへの取り組み方
こうした問題にもかかわらず、 OpenAIはGPT-5.4-Cyberのリリースを発表した。これは、安全上の理由からハッキングへの協力を拒否する標準的なモデルとは異なり、「正当なサイバーセキュリティ作業に対する拒否の境界を低くする」ものだ。
GPT-5.4-Cyberは、ソースコードにアクセスすることなくコンパイル済みソフトウェアを分析し、マルウェアや脆弱性を検出できますが、アクセスはOpenAIの「Trusted Access for Cyber」（TAC）プログラムに限定されています。審査済みのサイバーセキュリティ専門家、研究者、および重要システムを保護する組織のみが利用できます。.
Anthropic社のProject Glasswingは、Amazon（$AMZN）、Apple（$AAPL）、Google（$GOOGL）などの企業の防御担当者に対し、攻撃者が悪用する前に重要なインフラを修復するための限定的なアクセス権も提供する。.
当面の間、Anthropic社はセキュリティアップデートを毎月のスケジュールではなく、すぐにインストールすることを推奨しています。.
