英国收紧对AI聊天机器人的监管以保护儿童网络安全

英国政府正着手加强对人工智能聊天机器人使用的监管，以更好地保护儿童免受有害和非法内容的侵害。 

首相基尔·斯塔默已 公布 启动一项流程，以填补允许聊天机器人提供商在主要在线安全法律之外运营的法律空白。这将迫使制作和运营AI聊天机器人的公司积极打击非法内容，并确保其平台对年轻用户安全。 

目前，政府声称将改变 《在线安全法》的执行方式，并明确规定聊天机器人必须如何遵守法律。该法规在设计之初主要适应社交媒体平台和公共论坛的需求，人们可以在这些平台上发布自己的内容。无论是运营私人AI聊天机器人的人还是使用它们的人，都没有得到同等的覆盖，其责任也不明确。斯塔默承诺将很快关闭这一漏洞。

他警告说，聊天机器人公司需要遵守与其他在线公司相同的法律义务，否则将受到惩罚。政府表示，这一变化必须确保聊天机器人提供商积极监控其系统并屏蔽非法材料。在宣布这一举措之前，斯塔默表示，没有任何科技公司能免于法律制裁。

政府还担心，将AI聊天机器人视为与社交媒体平台不同，可能会使儿童容易受到有害或不适当内容的影响。官员们认为，如果AI聊天机器人要触及其目标受众，特别是青少年和年轻用户，就需要更严格的保护措施。

应对快速变化技术的新权力

除了填补 法律空白外，政府还将创造新的权力，以便在风险出现时采取更快的行动。监管机构将更快地对技术做出反应，而不是等待议会通过全新的法律。 

这是为了确保保护措施能够跟上人工智能的快速发展步伐。AI工具正在迅速改进并进入新领域。因此，风险可能会突然显现，监管机构需要灵活性来应对这些风险。 

斯塔默最近指出了有害AI生成内容的风险，例如技术被用于未经同意创建人们的色情图像的情况。 

他称此类用途不可接受，并表示应执行现有法律来打击这些行为。政府表示，更好的执法将迫使公司从一开始就设计更安全的系统。 

这些措施可能包括内置于聊天机器人软件中的保护措施，以在用户看到之前识别和防止非法内容。科技公司也将对其AI系统的行为承担责任。 

这意味着他们需要监控输出，增强安全功能以使系统更安全，并在检测到故障时迅速做出反应。

政府采取措施保护儿童免受伤害

对AI聊天机器人的打击是几乎任何数字平台上儿童安全这一更大挑战的一部分。政府正在考虑采取新行动，以进一步降低风险。 

正在酝酿的一项建议是要求用户达到一定年龄才能访问社交媒体。官员们还在探讨限制无限滚动等功能如何鼓励过度屏幕时间，以及使年轻人难以摆脱有害或 成瘾性内容. 

。这些变化可能是在就儿童在线福祉进行公众咨询之后出台。家长、教育工作者和安全专家担心数字平台对年轻人心理健康的影响以及接触不适当内容的程度。 

政府的更广泛目标是创造一个更安全的网络环境，使儿童能够在不受严重伤害的情况下从技术中受益。