英国独立dent 立法审查员乔纳森·霍尔（Jonathan Hall KC）呼吁制定新法律，以应对人工智能（AI）聊天机器人带来的挑战，因为这些机器人有可能使用户走向极端化。霍尔先生最近在《每日电讯报》发表的一篇评论文章中，对政府近期颁布的《网络安全法》在应对不断变化的人工智能生成内容方面是否足够表示担忧。.
霍尔先生的主要论点 围绕着人工智能聊天机器人传播极端主义意识形态和煽动恐怖主义的能力 展开，同时这些机器人却能逃避传统的法律责任。他认为，现行法律难以将聊天机器人生成的宣扬恐怖主义言论的责任归咎于个人，因为只有人类才能为这类犯罪行为承担法律责任。
需要更新立法
霍尔先生在文章中强调，必须确保法律框架能够有效遏制和打击最极端、最鲁莽的网络行为，包括利用人工智能聊天机器人从事不法活动。他认为，这就需要对反恐和网络安全法律进行全面更新，以应对人工智能时代带来的独特挑战。.
霍尔先生详细描述了他在character.ai网站上与人工智能聊天机器人互动的经历。在互动过程中，他与多个聊天机器人进行了交流，其中一个dent是伊斯兰国组织的高级领导人。该聊天机器人试图招募他加入该恐怖组织，这引发了人们对这种技术落入不法分子手中可能造成的潜在危险的担忧。.
现有法规中的法律漏洞
霍尔先生指出的一个重要问题是，像character.ai这样的网站现有的条款和条件通常侧重于禁止人类用户宣传恐怖主义或暴力极端主义，但并未明确提及人工智能机器人生成的内容。这一法律漏洞引发了人们对聊天机器人生成的极端主义内容的问责制问题的质疑。.
针对这些担忧，character.ai发表声明强调，虽然他们的技术仍在不断发展，但他们的服务条款明确禁止仇恨言论和极端主义。他们还强调，将致力于确保其产品不会产生任何鼓励伤害他人的回应。.
专家警告和用户注意事项
包括牛津大学教授迈克尔·伍尔德里奇在内的AI和计算机科学专家此前曾警告用户，在使用ChatGPT等AI聊天机器人时，应谨慎分享敏感信息和表达个人观点。他们指出，任何输入到此类系统的数据都可能在未来的版本中使用，使得找回这些数据几乎不可能。.
堪萨斯城律师乔纳森·霍尔呼吁制定新法律来监管鼓励恐怖主义的人工智能聊天机器人，这凸显了新兴技术带来的不断变化的挑战。随着人工智能的不断发展，迫切需要建立能够有效规范人工智能在网络空间（尤其是极端主义内容领域）负责任使用的法律框架。目前的法律环境似乎不足以应对这些新出现的威胁，因此，为了防止人工智能被滥用于宣扬恐怖主义和极端主义，监管更新势在必行。.
确保数字时代的问责制
随着人工智能聊天机器人日趋复杂，我们必须将重点转移到明确 defi问责制和责任，即便是在虚拟领域。恶意分子可能利用人工智能进行有害活动，这要求政府和技术平台都必须采取积极主动的应对措施。在日益数字化的世界中，维护安全保障的斗争正处于关键时刻。.
