カリフォルニア州知事ギャビン・ニューサム氏は月曜日、人工知能（AI）などの新興技術に対する明確な安全対策を定める新たな法案に署名した。この新法は、AIチャットボットを利用する児童・生徒に対する州のオンライン保護をさらに強化することを目的としています。.
この法案には、年齢確認、自殺や自傷行為への対策、ソーシャルメディアやコンパニオンチャットボットに関する警告、違法なディープフェイクから利益を得る者への厳格な罰則など、チャットボットに関する安全対策が含まれています。知事は、この取り組みがカリフォルニア州における児童の安全確保の最優先事項となることを期待しています。.
ニューサム氏 は 、チャットボットやソーシャルメディアといった新興技術は、人々に刺激を与え、教育し、つながりを築くことができる一方で、子どもたちを搾取したり、誤解させたり、危険にさらしたりする可能性もあるため、真の安全策が必要だと指摘した。そして、カリフォルニア州はAIとテクノロジーの分野で引き続き主導的な役割を果たすことができるが、そのためには責任ある行動が不可欠だと主張した。
知事の第一パートナーであるジェニファー・シーベル・ニューサム氏は、人々のあらゆる行動は子供たち、つまり彼らの安全、健康、そして幸福から始まると考えています。カリフォルニア州は常にイノベーションをリードしてきましたが、真のリーダーシップとは、最も大切な時に子供たちに限界を設けることでもあると彼女は述べました。シーベル氏はさらに、この法律は子供たちの健康と安全を守りつつ、責任あるイノベーションの推進を確実にするためのガードレールを確立するものだと付け加えました。.
「規制されていないテクノロジーによって若者が被害を受けた、実に恐ろしく痛ましい事例を私たちはいくつか目にしてきました。企業が必要な制限や説明責任を負わずに事業を続けることを、私たちは黙って見ているつもりはありません。子どもたちの安全は売り物ではありません。」
―ギャビン・ニューサム、カリフォルニア州知事。
カリフォルニア州は、新興テクノロジーの危険から子供たちを守る上で、常に先導的な役割を果たしてきました。同州はこれまでにも、ソーシャルメディア依存、tronなプライバシー要件、そして全米をリードする透明性対策から子供たちを守るための法案を制定しています。.
を目的として こと ためのプロトコルを作成することを義務付けることで、AIチャットボットに対する新たな安全対策を講じるdentいる。また、プラットフォームに対し、やり取りが人工的に生成されたものであることを開示することも義務付けている。
この法案によると、チャットボットプラットフォームは休憩のリマインダーを提供し、チャットボットが生成する性的に露骨な画像を子供が閲覧できないようにする必要があります。また、チャットボットは自傷行為への対処方法や、ユーザーに危機管理センターへの予防通知をどのくらいの頻度で提供しているかを示す統計情報を公衆衛生局に共有することが義務付けられます。この新法では、チャットボットが医療専門家を装うことが禁止されています。.
この新法案は、オペレーティングシステムとアプリストアプロバイダーに対し、子供がオンライン上で不適切または危険なコンテンツにアクセスするのを防ぐための年齢確認プロトコルの導入を義務付けています。また、チャットボットプラットフォームは、ソーシャルメディアプラットフォームの長期使用に伴う潜在的な危害について若いユーザーに知らせるため、ソーシャルメディアの警告ラベルを表示することが義務付けられます。.
この新法は、チャットボットにおけるディープフェイクポルノに対してより厳しい罰則を定めておりtronに 合意 基づく性的に露骨なコンテンツの配信を故意に助長または幇助した第三者に対して、被害者に対し1件あたり最大25万ドルの民事救済措置を講じることも含まれています。ニューサム知事はまた、ネットいじめ対策のガイダンスの策定を推進し、カリフォルニア州教育局（CDE）に対し、2026年6月1日までに、学校時間外に発生したネットいじめの報告に対処するためのモデルポリシーを採択することを義務付けました。また、地方教育機関に対し、このモデルポリシー、または地方自治体の意見を取り入れて策定された同様のポリシーを採択することを義務付けています。
損害に対する明確な説明責任を求めました 引き起こされた 。このイニシアチブは、AIを開発、改変、または使用する者が、その技術が自律的に動作したと主張して責任を逃れることを防ぐことを目的としています。
児童の保護とテクノロジーおよびオンラインプラットフォームの安全性向上を目的とした法案が、他にもいくつか可決されています。例えば、レベッカ・バウアー＝カハン議員による「ソーシャルメディア：警告ラベル」、マギー・クレル議員による「人工知能による防御」、ロングビーチ選出のジョシュ・ローエンタール議員による「ディープフェイクポルノ」、ピラール・シアボ議員による「アカウント削除」、ジャッキー・アーウィン議員による「カリフォルニア・サイバーセキュリティ統合センター：人工知能」などです。.
