英国政府在使用AI方面不透明，科技大臣称

据报道，英国政府未在强制登记册上列出其AI系统的使用情况，引发了对透明度问题的担忧。

据《卫报》报道，科技大臣随后承认，尽管各个政府部门出于各种目的使用AI，但这些部门在AI和算法的使用上并不透明。

英国政府部门对AI使用“盲目飞行”

《卫报》的文章揭示，自政府表示将强制使用AI登记以来，没有一个部门列出其使用AI的情况。这引发了公众对公共部门“盲目飞行”的担忧。

与此同时，英国政府部门已经在利用AI，例如在从福利支付到移民执法的各项决策中提供信息。据《卫报》报道，一些记录显示，公共机构授予了AI算法服务的合同。

例如，警方采购机构最近发布了一份价值2000万美元的人脸识别合同，进一步引发了对“大规模生物特征监控”的担忧。

然而，只有九个算法系统被提交到公共登记册中，由英国内政部或警方使用的越来越多的人工智能程序均未列入。今年2月，英国政府宣布，AI登记册的使用现在将成为“所有政府部门的强制要求”。

当被问及缺乏透明度的问题时，科学与技术大臣彼得·凯尔（Peter Kyle）承认，公共部门“没有足够认真地对待在政府使用算法方面保持透明的必要性”。

“我接受，如果政府代表公众使用算法，公众有权知道。”

凯尔。

“公众需要感到算法是为他们服务的，而不是相反。做到这一点的唯一方法是对其使用保持透明，”凯尔补充道。

英国政府无视警告

据《卫报》文章称，专家警告称，如果未经批判地采用AI，将会带来危险，最近的例子包括邮政局的Horizon软件等IT系统未能按预期工作。

白厅（英国政府核心部门）使用的AI技术范围从微软的Copilot系统到福利系统中的自动欺诈和错误检查。英国工作与养老金部（DWP）最近的一份AI合同通知描述了“DWP内部兴趣的激增，这与更广泛的政府和社会趋势相吻合”。

除了警方，内政部还使用一种基于AI的移民执法系统。批评者称该系统为“机器人案件处理员”，它参与塑造包括将人员遣返回原籍国在内的决策。

然而，政府将其描述为“基于规则”的系统，而非AI系统，因为它不涉及从数据中进行机器学习。政府称，这带来了效率，尽管每项决策仍由人类负责。

据报道，英国国民保健署（NHS England）还与Palantir签订了一份价值3.3亿英镑的合同，以构建一个巨大的新数据平台，这进一步引发了对患者隐私的担忧。Palantir表示，患者保留对数据的控制权。

隐私权活动组织“老大哥监控”（Big Brother Watch）指出，尽管议员们发出警告称缺乏监管立法的法律框架，但警方人脸识别合同的出现仍表明政府在AI技术使用上的不透明。

“秘密使用AI和算法来影响人们的生活，使每个人的数据权利面临风险，”首席倡导官Madeleine Stone说道。

“政府部门必须公开诚实地说明他们如何使用这项技术。”

Stone。

数据和AI研究机构Imogen Parker也表达了对缺乏透明度的担忧。

“缺乏透明度不仅让公众蒙在鼓里，也意味着公共部门在采用AI时处于‘盲目飞行’的状态。”

Parker。

“未能发布算法透明度记录，限制了公共部门确定这些工具是否有效、从不成功中吸取教训以及监控这些工具不同社会影响的能力，”Parker补充道。