Anthropic、AI安全法案を議会に提出損害基準は10億ドル

著者

ネリウス・イレーネ 3分で読了公開 31分前更新 10秒前

Anthropicの法案では、50人以上の死者または10億ドルの経済的損害をもたらすリスクがある場合、米政府がモデルの使用を禁止できるとされています。
また、法案では第三者の調査機関が「差し迫った列挙型リスク」を発見した場合、72時間以内に連邦当局に報告することが義務付けられています。
FTC（連邦取引委員会）はOpenAIおよびAnthropicに対して情報提出命令（サブポエナ）を発行しました。

非公開の議論に精通した3人の関係者によると、Anthropicは最先端AIの安全性に関する草案法案を議会議員に提案しています。報道によれば、この法案では、明確かつ差し迫った危険性（50人以上の死者または10億ドルの経済的損害）がある場合、米政府がモデルの使用を禁止できる内容となっています。

具体的には、サイバー攻撃、生物兵器の作成または配備、あるいは開発者の安全制約を成功裏に回避したモデルに関連するリスクを対象としています。

過去数ヶ月の間、トップティアのAI開発者は、AIエージェントがオンラインプラットフォームの防御をハッキングしたりテストしたりする複数の事例を認めています。幸いにも、これらの初期の侵害は広範な死傷者や破滅的な経済的損失をもたらすことはありませんでした。

提案された制限は、開発者が行った安全に関するコミットメントにのみ依存するのではなく、高度なAIシステムが現実の世界で何を実行できるかに重点を置くことになります。モデルがコードの作成、ソフトウェアの脆弱性の特定、複雑なタスクの自律的な実行においてより能力を高めていくにつれて、規制当局はシステムの機能がどの時点で許容できないリスクの閾値を超えるかを判断するという課題に直面しています。

独立テストにより、モデルが広範なユーザーに公開される前に安全対策を回避したり、有害な目的で悪用されたりする可能性があるかどうかを確認できる可能性があります。しかし、差し迫った脅威の定義は依然として困難であり、特にセキュリティリスクをもたらす能力が、同時に研究者による脆弱性の特定や修正に役立つ場合もあります。

Anthropicの草案では、連邦裁判官がモデルの停止を命じることができる

この法案を擁護するために、Anthropicのスポークスパーソンは、この法案が同社が6月に発表した「高度なAIフレームワーク」で提起されたセキュリティ推奨事項と類似していると述べました。

そのフレームワークにおいて、同社は指摘しました自社のClaude Mythos Previewがすでに数千もの深刻な脆弱性を発見していた、主要なオペレーティングシステムやウェブブラウザすべてに対応しています。当時、同社はこの傾向が加速し、現実世界での壊滅的な被害のリスクが高まる必然性があると強調しました。

また、イノベーションを阻害することなく政府の介入を求めるバランスの取れた規制アプローチを推進しました。その際、AIモデルが極端な危険性を示す場合、規制当局にはそれをブロックするか、または再犯ごとに増額されるグローバル売上高に連動した重い罰金を科すための独自の法定権限を持たなければならないと、同社は主張し続けました。

現在に至るまで、Anthropicは議会の特定の連邦法案を公に支持していませんでしたが、いくつかの州レベルのAI安全法——カリフォルニア州のSB 53などを含む——に対して支持を表明してきました。支持いくつかの州レベルのAI安全法、カリフォルニア州のSB 53を含むものなど、の背後にある

昨年成立したこの特定の法案では、企業が安全性フレームワークを作成・共有し、重大なリスクの軽減に取り組むことが義務付けられています。また、重大な安全事故が発生した場合は、15日以内に州政府への報告も義務付けられています。

アンソロピックの提案によれば、商務省に登録した第三者評価機関が同社のラボおよびモデルを定期的にテストすることになる。ラボはこれらの評価に資金を提供することが許可されているが、報酬は評価結果に依存してはならない。さらに、「差し迫った列挙リスク」が発見された場合は、完了から72時間以内に連邦当局へ報告しなければならない。

その後、商務省がモデルにリスクがあると判断した場合、裁判官にそのリリース停止を請求することができる。ただし、この規定は米国の他の「省、機関、または役人」がモデルの開発、展開、または内部利用を停止することを禁じている。それでもなお、コロンビア特別区連邦地方裁判所の裁判官には、そのような一時停止を命じる権限が残されている。

FTC（連邦取引委員会）がOpenAIおよびAnthropicに召喚状を送付

水曜日、連邦取引委員会（FTC）はOpenAIおよびAnthropicに対し、業界にとって深刻な危機となっている安全インシデントに関する記録の提出を求める民事召喚状を送付した。OpenAIは召喚状に対して「モデルを改善し、それらが人々の日常生活でますます役立つようになるにつれて、安全性は最優先事項です。FTCと建設的に協力していきます。」と回答した。

ある情報筋によると、同機関は近い将来、第三者機関に対する証書調査権限の拡大を意図している。規制当局はAnthropicやOpenAIの執行役員に公的に証言を強制し、潜在的な影響への世間の恐怖が高まる中、技術大手の安全性について立法府が対峙する場を提供する可能性がある。

Associated Press-NORC公共政策研究センターが実施した最近の世論調査によると、米国人成人のほぼ3分の2が、AIの発展速度が速すぎると考えている。回答者の8割以上が、政府による人間の管理下での技術維持の重要性を強調した。

これまでトランプ大統領は、AI開発のペースを遅らせるよう求める要請を拒み続けており、その理由として、この技術が米国の戦略的利益にとって重要である点を挙げてきた。彼はまた、消費者、公益団体、その他のステークホルダーとの関与を維持しつつ、連邦政府のAIに関する取り組みを調整するための「スーパーインテリジェンスフォース」を最近発表した。

最も賢明な暗号通貨の専門家たちはすでに私たちのニュースレターを読んでいます。あなたも参加しませんか？彼らに加わりましょう。