ニューヨーク州、AIの誤作動による壊滅的な災害を制限する法案を可決

ニューヨーク州議会は、人工知能（AI）による災害を制限する法案を可決した。法案によると、州はOpenAI、Google、Anthropicといった企業が開発したAIモデルが災害シナリオに寄与するのを防ぐことを目指している。.

この 法案、これらのシナリオには、100人以上の死傷者、または10億ドル以上の損害・損失が含まれます。RAISE法として知られるこの法案は、AIの安全性を推進する運動にとっての勝利です。シリコンバレーとトランプ政権がスピードとイノベーションを優先し続けたため、この運動はここ数年で勢いを失っていました。

RAISE法案は、ノーベル賞受賞者のジェフリー・ヒントン氏やAI研究のパイオニアであるヨシュア・ベンジオ氏など、安全性を重視する活動家たちによって推進されています。この法案が最終的に成立すれば、アメリカ合衆国の主要な人工知能研究室に法的に義務付けられた透明性基準を初めて確立することになります。.

ニューヨーク州、AIによる災害を制限するRAISE法案を検討

RAISE法には、最終的に拒否されたカリフォルニア州の物議を醸したAI安全法案SB1047と同じ規定と目標がいくつか含まれています。.

しかし、RAISE法案の共同提案者であるニューヨーク州上院議員アンドリュー・グナーデス氏はインタビューで、この法案はスタートアップ企業や学術研究者のイノベーションを阻害しないよう設計されていると述べた。これはSB1047法案がしばしば直面した批判である。「この技術の進化の速さを考えると、ガードレールを敷くための時間は急速に狭まっている」とグナーデス上院議員は述べた。.

同上院議員はまた、AI分野に精通している人々のほとんどもこれらのリスクを認識していると述べ、これを「憂慮すべき事態」と呼んだ。一方、RAISE法案は現在、ニューヨーク州キャシー・ホークル知事の机に送られており、知事は署名して成立させるか、修正を求めて差し戻すかのいずれかの選択肢を持つ。もう一つの選択肢は、知事が法案を拒否するというものだが、その可能性は高い。.

RAISE法案が最終的に成立すれば、世界最大級のAIラボの一部は、最先端のAIモデルに関する安全性とセキュリティに関する報告書の公開を義務付けられます。また、この法案は、AIモデルの挙動に関する安全dentや、悪意のある人物によるAIモデルの盗難が発生した場合、AIラボに報告することを義務付けています。.

テクノロジー企業がこれらの基準を遵守できない場合、RAISE法はニューヨーク州司法長官に、最高3,000万ドルの民事罰金を科す権限を与えている。.

RAISE法はAIラボの規制を目指す

のようなカリフォルニアに拠点を置く企業や Google、DeepSeekやAlibabaのような中国に拠点を置く企業を含む、世界最大級のAI企業を規制するために策定されました。法案の要件には、AIモデルのトレーニングに1億ドル以上のコンピューティングリソースを使用した企業に適用される強制条項が含まれており、dentニューヨーク州在住の個人

RAISE 法はいくつかの点で SB 1047 に似ていますが、以前の AI 安全法案の一部に対応しています。.

例えば、AIモデル開発者に キルスイッチを 、モデルを後学習させた企業が重大な損害に対して責任を問われることもない。しかしながら、RAISE法案の共同提案者であるニューヨーク州議会議員アレックス・ボアーズ氏によると、ニューヨーク州の法案には反発が起こっているという。ボアーズ氏は、こうした抵抗は驚くべきことではないとしつつも、RAISE法案がテクノロジー企業の開発力を制限することは決してないと付け加えた。

「NY RAISE法は、またしても愚かな州レベルのAI法案であり、敵対勢力が猛追している時に米国を傷つけるだけだ」とアンドリーセン・ホロウィッツのゼネラルパートナー、アンジニー・ミドハ氏はXの金曜日の投稿で述べた。.

アンドリーセン・ホロウィッツとスタートアップインキュベーターのYコンビネーターはSB1047に激しく反対した。さらに、アントロピックの共同創業者であるジャック・クラーク氏もRAISE法の範囲の広さに不満を表明し、中小企業にリスクをもたらす可能性があると指摘した。.