カリフォルニア州のAI規制法案が知事の机に届く

カリフォルニア州議会で盛んに議論されてきた人工知能（AI）規制法案が、大きなハードルを乗り越えて可決されました。大規模AIモデルの安全性を規制することを目的とした法案SB-1047は、カリフォルニア州議会で賛成45票、反対11票で可決されました。 

この法案は5月に州上院で32対1の投票で可決されており、ギャビン・ニューサム州知事の署名を得るために送付される前に、上院でさらに1回の手続き上の投票を通過すると予想されている。 

AI専門家は潜在的なAIの脅威に対処する法案を支持

SB-1047 て訓練された大規模AIの 、AIが公衆に悪影響を及ぼす場合にAIを停止させる「キルスイッチ」を組み込むことを義務付けている。このアプローチは、AIシステムが最小限の人的介入で機能する必要があり、最悪の事態が発生する可能性がある場合に特に重要である。 

この法案の成立を支持する人々は、高度なAI技術がより自立的になりつつあるため、それに伴うリスクに対処するためにこの法案が必要だと主張している。法案の起草者であり州上院議員でもあるスコット・ワイナー氏は、AIの第一人者であるジェフリー・ヒントン氏やヨシュア・ベンジオ氏といった著名人が、AIがもたらす潜在的な脅威について懸念を表明したことを指摘した。

昨年、ヒントン氏とベンジオ氏は、AIが適切に制御されなければ人類の絶滅につながる可能性があるとする声明に署名した。 

批評家は法案がイノベーションに与える影響について懸念を表明

しかし、SB-1047はAI研究とビジネスの支持者から多くの批判を受けています。この法案は、ディープフェイクやフェイクニュースといった現在のリスクよりも、将来起こりうるリスクを重視していると主張する人もいます。 

スタンフォード大学人間中心人工知能研究所の所長、フェイフェイ・リー氏は、この法案に強く反対している。リー氏は最近の論説で、この法案は開発者が大きな責任を負わされるため、イノベーションへの脅威であると述べた。また、学術研究や共同研究に不可欠なオープンソース形式でのAIモデルや重みの共有を阻害する可能性があると指摘した。

カリフォルニア州のビジネスリーダーたちは、ニューサム知事に対し、この法案には「根本的な欠陥がある」として拒否権発動を求める公開書簡に署名した。SB-1047は成立に向けて進んでおり、ギャビン・ニューサム知事は9月30日までに法案を承認する必要がある。

今年5月、カリフォルニア大学バークレー校で開催されたシンポジウムで、ニューサム知事は 同意した 。知事は、過剰な規制によって州が「非常に不安定な状況」に陥る可能性があるとの懸念を示した。しかし、AI業界の代表者からいくつかの質問が出されたことを受け、ニューサム知事は一定の規制の必要性も認めた。