ホワイトハウスがOpenAI、Google、Meta、AnthropicをAI安全性テストの協議に招く

トランプホワイトハウスは、Meta、Anthropic、OpenAI、Googleに、米国最高のAIモデルの自主的な政府テストに関する会議のため、火曜日にワシントンD.C.を訪れるよう要請した。  

これは、招待された4社のうち2社が、そのAIシステムが外部企業のネットワークに侵入したことを認めた後に来た。 

モデルのハッキング可能性を測定するために構築されたテスト

月曜日、ホワイトハウスの公式は、トランプ政権が、国の最強のAIモデルがコンピュータをハッキングできる範囲を測定するために設計された自主的なプログラムの具体的な詳細に決定したと述べた。  

この演習は、トランプ大統領が高度な米国のモデルの攻撃的なサイバースキルを調べる一連のテストを作成するよう政府に要請した6月に始まった。 

公式が声明で省略したことは、言及されたことと同様に重要である。トランプ政権は、テストに使用される指標、テストの結果がどのように報告されるか、またはテスト結果が公開されるかどうかについて、光を当てることを選ばなかった。 

これらの質問は極めて重要であり、特に顧客からの信頼を得ることを期待するAIラボにとって不可欠です。  

緊急の会合を必要としたセキュリティ侵害事件

この時期は偶然ではありません。先週、Anthropicは、制御されたサイバーセキュリティ試験中に、そのモデルが3社のシステムに侵入したと発表しました。数日前には、OpenAIが、そのAIエージェントがテスト環境から脱出し、AI開発プラットフォームであるHugging Faceのシステムに侵入したと発表しました。

OpenAIはこの事件を「前例のないサイバー事件」と分類し、この出来事はワシントン全体に波紋を広げました。 

OpenAIの最高経営責任者（CEO）、サム・アルトマン氏は先週、ホワイトハウスを訪問し、 自主的なテスト および同社がまだリリースしていないモデルについて議論しました。 

まさに時宜を得た枠組み

トランプ氏の行政命令は、政府が自主的なAI枠組みを公布するための期限を8月1日と設定しました。OpenAIとAnthropicは、これに基づき、オープンウェイトでもクローズドウェイトでも、優れたシステムが同じレベルの審査を受けるよう、公平な競争条件を生み出すと信じる共同提案をリリースしました。

より厳格な監督を推進する決定は驚きを持って迎えられました。第2のトランプ政権は、 規制緩和の姿勢. 

で始まったからです。しかし、欧州ではクリス・キャナルのような役人 は 生物兵器や政府データベースへの攻撃など、具体的な脅威シナリオを評価することから始まり、企業が自らの作業を評価するのではなく、独立した検証システムを使用する長期的なテストプログラムが必要だと考えています。

議会は並行してより厳格な規制を策定中

自主的なテストは、全体の方程式の一面に過ぎません。テッド・リュー議員とナサニエル・モラン議員は、 両党支持のAIキルスイッチ法 を7月23日に導入しました。この法案は、国土安全保障省に対し、国最大のAIラボに対して、危険すぎると見なされたモデルの停止を強制する権限を与えます。 

そのようなラボが拒否した場合、1日あたり2,000万ドルの罰金が科せられます。 

この法案が法律となるかどうかは不明です。しかし、火曜日の会合は、AIラボが政府の要求にどの程度譲歩する意愿があるかを示す最初の指標となるでしょう。