政府因缺乏AI治理立法而受到批评

为了在公共服务中利用人工智能（AI）的潜在好处，英国政府建立了一个专门的AI创新部门。然而，随着对AI集成热情的高涨，人们开始关注需要强大的治理框架来减轻潜在风险。

 邮局丑闻的最新披露凸显了解决AI实施中治理空白的紧迫性，在该丑闻中，有缺陷的AI软件导致了不公正的起诉。

邮局丑闻凸显治理风险

邮局丑闻导致数百名邮局经理基于有缺陷的AI会计软件被错误起诉，引发了对不加批判地集成AI风险的辩论。 

这一事件是一个鲜明的提醒，即在没有适当保障措施的情况下将关键决策委托给自动化系统可能带来的后果。 

AI驱动过程中缺乏透明度和问责制可能会加剧差异和不公正，使个人在面对错误结果时无法寻求救济。

政府的回应不足

尽管呼吁采取立法行动加强AI治理，但政府最近的公告引起了关注。政府选择不立即承诺新的AI立法，而是选择监测行业行为并进行进一步咨询，然后再考虑立法干预。 

批评者认为，这种反应式方法未能解决预防未来AI相关不公正的迫切需求。此外，数据保护法律的持续改革可能会稀释现有的自动化决策保障措施，可能使个人面临更高的风险。

对削弱数据保护的担忧

目前正在上议院审议的《数据保护和数字信息法案》引发了对其对数据隐私和自动化决策潜在影响的担忧。 

批评者警告说，如果该法案通过，可能会削弱《通用数据保护条例》（GDPR）提供的保护，该条例一直是抵御任意AI驱动决策的堡垒。通过削弱这些保障措施，该法案可能会侵蚀对AI系统的信任，并削弱追究组织算法偏见和失败责任的努力。