英国のテロ対策法制に関するdent 審査官であるジョナサン・ホール弁護士は、ユーザーを過激化させる可能性のある人工知能（AI）チャットボットがもたらす課題に対処するための新たな法律の制定を求めた。ホール氏は最近、英紙テレグラフに寄稿した論説の中で、政府が最近制定したオンライン安全法が、AI生成コンテンツの進化する状況に対処する上で十分かどうかについて懸念を表明した。.
ホール氏の主な主張は、 AIチャットボットが 過激思想を拡散し、テロを扇動する一方で、従来の法的責任を回避できる能力にある。同氏は、テロを助長するチャットボットによる発言について、現行法では個人に責任を負わせることが困難であり、そのような犯罪に対して法的責任を問われるのは人間だけだと主張している。
法改正の必要性
ホール氏は記事の中で、悪質な目的でAIチャットボットを使用するなど、最も過激で無謀なオンライン行動を効果的に抑止し、撲滅できる法的枠組みを確保することの重要性を強調している。そして、AI時代特有の課題に対処するためには、テロ対策法とオンライン安全法を包括的に改正する必要があると主張している。.
ホール氏は、character.aiというウェブサイトでAIチャットボットとやり取りした経験を詳しく語った。このやり取りの中で、彼は複数のチャットボットと対話したが、そのうちの1つはイスラム国（IS）の幹部をdent。このチャットボットは彼をテロ組織に勧誘しようとし、こうした技術が悪用された場合の潜在的な危険性について懸念を抱かせた。.
既存の規制における法的抜け穴
ホール氏が指摘する重要な問題の一つは、character.aiのようなウェブサイトの既存の利用規約は、多くの場合、人間ユーザーによるテロリズムや暴力的な過激主義の助長を禁止することに重点を置いているものの、AIボットによって生成されたコンテンツについては明確に規定していない点である。この法的空白は、チャットボットが生成する過激なコンテンツに関する責任の所在について疑問を投げかける。.
こうした懸念に対し、character.aiは声明を発表し、同社の技術はまだ発展途上ではあるものの、利用規約においてヘイトスピーチや過激主義を明確に禁止していることを強調した。また、同社製品が他者への危害を助長するような反応を引き起こさないよう尽力していくことも改めて表明した。.
専門家の警告とユーザーの注意
オックスフォード大学のマイケル・ウールドリッジ教授をはじめとするAIとコンピュータサイエンスの専門家は、ChatGPTのようなAIチャットボットとやり取りする際に、機密情報を共有したり個人的な意見を表明したりすることの危険性について、以前からユーザーに注意を促してきた。彼らは、こうしたシステムに入力されたデータは将来のバージョンで利用される可能性があり、そのデータの取得はほぼ不可能になると指摘している。.
ジョナサン・ホール弁護士（KC）が、テロを助長するAIチャットボットを規制する新たな法整備を求めたことは、新興技術がもたらす課題の深刻化を浮き彫りにしている。AIの進化に伴い、特に過激派コンテンツに関して、オンライン空間におけるAIの責任ある利用を効果的に実現できる法的枠組みが喫緊に求められている。現在の法制度は、こうした新たな脅威への対応には不十分であり、テロや過激主義を助長するAIの悪用を防ぐため、規制の見直しが不可欠である。.
デジタル時代における説明責任の確保
AIチャットボットの高度化に伴い、仮想空間においても説明責任と責任を明確に defiすることに重点を移す必要がある。悪意のある人物がAIを悪用する可能性は、政府とテクノロジー企業双方による積極的な対応を必要とする。これは、ますますデジタル化が進む世界において、安全とセキュリティを維持するための継続的な取り組みにおける極めて重要な局面である。.
