上院法案は、最先端AIの安全性を誓約ではなく法的義務とする

米国上院の交渉担当者は、最も高度なAIモデルの開発者に壊滅的な害から守ることを法的に義務付け、連邦政府に安全でないリリースをブロックする権限を与える可能性のある立法を検討している according to Reuters.

トップAI企業にとって、これは安全性基準を主に自主的な取り組みから法的義務へと変革します。より広範な市場の疑問は、より厳格な規制が消費者や投資家の信頼を育むのか、それともそれらを負担できる限られた企業を単に強化するだけなのかということです。

自主的な誓約から「善管注意義務」へ

ロイター通信によると、この提案は、最先端AIモデルの開発者に対する「善管注意義務（duty of care）」を作成することを目指しています。この目的のために、いくつかの規定が検討されています。提案には以下の要件が含まれます：開発者が壊滅的なリスクを最小限に抑えるAIモデルを設計すること；米国政府が安全でないAIモデルをブロックする留保権；政府の決定に対する裁判所でのAppeal；および国家研究所や政府パートナーのAIテストへの関与。この提案は、同じ問題を管轄する既存の州立法のいくつかよりも優先される可能性があります。

ロイター通信によると、最先端AI開発に従事する米国のテクノロジー企業は、Google（Alphabet）、Anthropic、OpenAIです。

交渉には、上院多数党院内総務のジョン・ジューン氏、商務委員会委員長テッド・クルーズ氏、そしてアミー・クロブーチャー上院議員が含まれており、マリア・カンウェル上院議員も関与しています。

クロブーチャー氏はロイターに対し、彼女の目標は以下であると述べました。

「AIモデルがもたらす最大リスクに対する政府の監督」

彼女は、この監督には、開発者が政府の専門家と協力して高度なモデルを検証およびテストすることを要求することが含まれるべきだと述べました。

クルーズ上院議員は、最先端AIの最も悪い可能性のいくつかを示唆する同様の提案を提出しました。Xでの投稿で、クルーズ氏は、クロブーチャー氏とジューン氏と協力して以下を行うと述べました。

「生物学的または核の脅威を伴う壊滅的なリスクに対処する」

これらの懸念は、交渉担当者がAI業界全体から同じ規定を要求するのではなく、最も機能的なモデルに注力している理由を説明しています。

もう一つの重要な考慮事項は、連邦規制が州レベルの制限のいくつかを上回るべきかどうかです。このアプローチは、無秩序な州法セットが米国のAI技術開発における経験に支障をきたすと維持し、代わりにより一貫した全国的な枠組みを呼びかけるトランプ政権のAI立法枠組みと一般的に一致しています。

立法担当者がリスクを理論的なものとして扱わなくなった理由

立法担当者は、理論的な状況だけでなく、AIエージェントが自律的に行動して外部システムに侵入するインシデントや、主要業界プレイヤーで働く研究者たちから表明された懸念にも対応しています。

IAPPは、交渉が元Anthropic研究者のジェイコブ・クソン氏の辞任と、自己改善型AIをめぐる競争への懸念によって促されたと示唆しました。

議事堂では要求が高まっています。ジョシュ・ホーリー上院議員は、7月に発生したHugging Faceのサイバー攻撃におけるOpenAIの役割を調査しており、バーニー・サンダース上院議員は、スーパーインテリジェンスの開発を一時停止することを目的とした法案の作成に取り組んでいます（IAPPによる報道）。

OpenAIも、執行可能な連邦立法を支持しています。9月9日に公開された政策記事で、クリス・レイン氏（最高グローバルアフェアーズ責任者）は以下を呼びかけました。

「能力ベースの必須の国家的AI安全規制」

これは、業界の一部と議会を、自主的な安全対策がまだ十分かどうかという重要な質問において、同じ側に立たせています。

欧州はすでに最もリスクの高いモデルを規制している

米国は未開の水域を航行することはありません。欧州連合（EU）のAI法は、システムリスクの可能性を持つ汎用AIモデルの提供者に新しい責任を課しています。これらの義務には、モデル評価、リスク管理、インシデント報告、およびサイバーセキュリティに関連する問題が含まれます。

10^25 FLOPの計算力閾値を超えるすべてのモデルは、本質的に潜在的にシステミックなものと見なされます。しかし、欧州委員会は、機能や影響などの他の基準に基づいて、より低いパフォーマンスのモデルを同様に分類する権利を持っています。

コンプライアンスコストは最大手のラボに有利に働く可能性

金銭的 stakes は巨大です。ゴールドマン・サックス・リサーチによると、推定される世界のAI投資は2026年までに約1兆ドルに達すると予想されており、そのうち5,810億ドルが米国での投資です。

新しいテスト、法的、文書化の要件は、モデルのリリーススケジュール、インフラストラクチャの予算、評価、およびIPOのタイミングに影響を与える可能性があります。新しい要件は、小規模企業がコストを負担できない可能性があるため、大規模なプレイヤーに有利な状況をもたらす可能性もあります。

この緊張はすでに資本市場で見て取れます。Cryptopolitanによると、デヴィッド・サックス氏は、クソン氏による安全に関する告発が確認されるまでAnthropicのIPOを一時停止するよう呼びかけました。Anthropicの投資家は約2兆ドルの評価額について議論しており、これは最先端モデルの安全性が規制当局だけでなく投資家にとっても懸念事項になることを意味しました。

しかし、法案の進展は不確実です。ロイター通信の報道によると、下院は11月3日の中間選挙の準備のため1週間のみ会期を開きます。一方、上院議員は3週間留まると予想されています。交渉当事者が合意に達した場合でも、残された限られた立法日程は、法案成立における今後の主要な障壁となる可能性があります。