ニューヨーク州、AIの誤作動による壊滅的な災害を制限する法案を可決

ニューヨーク州の立法府は、人工知能によって引き起こされる災害を制限する法案を可決した。法案によると、同州はOpenAI、Google、Anthropicなどの企業によって作成されたAIモデルが災害シナリオに寄与することを防ぐことを望んでいる。

法案によると、これらのシナリオには100人以上の死傷者または10億ドル以上の損害・損失が含まれる。RAISE法として知られるこの法案は、AI安全性を推進する運動にとっての勝利を表している。しかし、シリコンバレーとトランプ政権が速度と革新を優先し続けるにつれ、過去数年間でこれらの運動は勢いを失っていた。

ノーベル賞受賞者のジェフリー・ヒントン氏やAI研究のパイオニアであるヨシュア・ベンジオ氏など、安全性に焦点を当てた活動家がRAISE法を後押ししている。最終的に法として署名されれば、この法案は米国における主要な人工知能ラボに対する法的に義務付けられた透明性基準の最初のセットを確立することになる。

ニューヨーク州、AI起因の災害を制限するRAISE法を検討

RAISE法には、最終的に拒否されたカリフォルニア州の論争の的となったAI安全性法案SB 1047と同じ規定と目標の一部が含まれている。

しかし、RAISE法の共同スポンサーであるニューヨーク州上院議員アンドリュー・グナーデス氏は、インタビューで、この法案がスタートアップや学術研究者の革新を阻害しないように設計したと述べ、SB 1047が直面した一般的な批判を回避した。「この技術が急速に進化していることを考えると、ガードレールを設置する窓は急速に狭まっている」とグナーデス上院議員は語った。

同議員はまた、AI分野に精通している人々の多くがこれらのリスクを認識しているとも述べ、この発展を「 alarming（警戒すべき）」と呼んだ。同時に、RAISE法はニューヨーク州のキャシー・ホクール知事の机に送られ、彼女はこれを法として署名するか、修正のために戻すか、あるいは拒否する（おそらくその可能性が高い）という選択肢を持つことになる。

最終的に法として署名されれば、RAISE法は世界最大のAIラボの一部に、フロンティアAIモデルに関する安全性およびセキュリティ報告書の公開を義務付ける。また、この法案は、AIモデルの動作に関する安全性のインシデントや、悪意のある行為者がAIモデルを盗んだ場合の報告をAIラボに義務付けている。

テクノロジー企業がこれらの基準を満たさない場合、RAISE法はニューヨーク州司法長官に対し、最大3,000万ドルの民事罰を科す権限を与える。

RAISE法、AIラボの規制を目指す

RAISE法は、カリフォルニア州に拠点を置くOpenAIやGoogle、そして中国に拠点を置くDeepSeekやAlibabaなど、世界中の最大手のAI企業を規制するために設計された。この法案の要件には、AIモデルの訓練に1億ドル以上のコンピューティング・リソースを使用した企業に適用される必須条項が含まれており、ニューヨーク州の居住者にも利用可能である。

いくつかの点でSB 1047に類似しているものの、RAISE法は以前のAI安全性法案のいくつかに対処している。

例えば、どの条項もAIモデル開発者にキルスイッチの設置を要求しておらず、モデルのポストトレーニング後に重大な害をもたらした企業を責任追及するものでもない。それでもなお、RAISE法の共同スポンサーであるニューヨーク州議会のアレックス・ボレス議員によると、ニューヨーク州の法案に対して反対運動があった。彼は抵抗を予想通りだと呼びつつも、RAISE法がテクノロジー企業の開発能力をいかなる形でも制限するものではないと付け加えた。

「NY RAISE法は、敵国が先を走っている時に米国を傷つけるだけのもう一つの愚かな州レベルのAI法案だ」と、アンドリーセン・ホロウィッツの一般パートナーであるアンジー・ミドハ氏は金曜日のXでの投稿で語った。

アンドリーセン・ホロウィッツとスタートアップインキュベーターのY CombinatorはSB 1047に激しく反対していた。さらに、Anthropicの共同創設者であるジャック・クラーク氏も、RAISE法の範囲の広さについて不満を表明し、これが小規模な企業にリスクをもたらす可能性があることに言及した。