英国、オンライン上の児童保護のためAIチャットボットを取り締まる

英国政府は、有害かつ違法なコンテンツから児童をよりよく保護するため、人工知能チャットボットの使用に関する規制を強化する動きを示しています。 

キア・スターマー首相は 発表され チャットボットプロバイダーが主要なオンライン安全法の外で運営することを可能にしていた法的空白を埋めるためのプロセスを進めています。これにより、AIチャットボットを作成・運営する企業は、違法なコンテンツを積極的に取り締まり、プラットフォームが若いユーザーにとって安全であることを確保することが義務付けられます。 

現在、政府は オンライン安全法の執行方法を変更し、チャットボットが法律にどのように準拠すべきかを指定する予定です。この規制はプロセスの初期段階で設計されましたが、主に人々がコンテンツを投稿できるソーシャルメディアプラットフォームや公共フォーラムの要請に合わせて適応されていました。プライベートなAIチャットボットを運営する者やそれを使用する者のいずれもが同等の扱いを受けず、その責任は不明確なままでした。スターマー氏は、この抜け穴を間もなく閉じることを約束しました。

チャットボット企業は、他のオンライン企業と同じ法的義務を遵守するか、罰則を受けることになります。政府は、この変更により、チャットボットプロバイダーが自らのシステムを積極的に監視し、違法な素材をブロックすることが確保されるべきだと述べています。彼の発表に先立ち、スターマー氏は、どのテクノロジー企業も法律から免除されないと言いました。

政府はまた、AIチャットボットをソーシャルメディアプラットフォームとは別扱いにすることが、児童を有害または不適切なコンテンツから脆弱な状態にさらす恐れがあると懸念しています。当局者は、AIチャットボットが特に10代の若者や青年ユーザーといった希望する層に到達するためには、より厳しい保護が必要だと考えています。

急速に変化するテクノロジーに対処するための新たな権限

法的な隙間を埋めることに加え、 政府は、リスクが発生した際により迅速な行動を可能にする新たな権限を創設します。議会が完全に新しい法律を可決するのを待つのではなく、規制当局はテクノロジーに対してより迅速に対応します。政府は、リスクが発生した際に迅速な対応を可能にする新たな権限を創設する。議会が完全に新しい法律を可決するのを待つのではなく、規制当局はテクノロジーにより迅速に対応する。 

これは、人工知能の急速な進歩に合わせて保護策が追いつくことを確保する方法です。AIツールは急速に改善し、新しい領域へと進出しています。その結果、リスクは突然現れる可能性があり、規制当局はそれに対処するための柔軟性を必要としています。 

スターマー氏は最近、同意なく人々の性的に露骨な画像を作成するためにテクノロジーが利用されるケースなど、有害なAI生成コンテンツのリスクを指摘しました。 

彼はこのような使用を許容できないと呼び、既存の法律をこれらに対して執行すべきだと述べました。政府は、より良い執行により、企業が最初からより安全なシステムを設計することを強制すると述べています。 

これには、ユーザーがそれを見る前に違法なコンテンツを特定し防止するためにチャットボットソフトウェアに組み込まれた保護が含まれる可能性があります。テクノロジー企業もまた、AIシステムの振る舞いについて責任を負うことになります。 

つまり、企業は出力を監視し、安全性を高める機能を強化してシステムをより安全にし、欠陥が検出された場合に迅速に対応する必要があります。

児童の危害からの保護に向けた政府の動き

AIチャットボットに対する取り締まりは、事実上あらゆるデジタルプラットフォームにおける児童の安全というより大きな課題の一部です。政府は、リスクをさらに軽減する可能性のある新たな措置を検討しています。 

現在検討されている一つの提案は、ソーシャルメディアにアクセスするためにユーザーが一定の年齢に達していることを要求するものです。当局者は、無限スクロールのような機能の制限が過度なスクリーンタイムを促進すること、および若者が有害または 中毒性のあるコンテンツ. 

から離れにくくなることについてどのように対処するかを探っています。 

これらの変更は、オンラインにおける児童の福祉に関する公聴会後に導入される可能性があります。親、教育者、安全の専門家は、デジタルプラットフォームが若者のメンタルヘルスに与える影響や、不適切なコンテンツへの曝露量について懸念しています。