据报道,英国政府并未在强制性登记册上列出其人工智能系统的使用情况,这引发了人们对透明度问题的担忧。.
据《卫报》报道,科技部长后来承认,尽管各个政府部门出于各种目的使用人工智能和算法,但这些部门在使用人工智能和算法方面并不透明。.
英国政府部门对人工智能的使用“一无所知”。
《卫报》的文章揭露,自政府表示将强制使用人工智能以来,没有一个部门列出其使用情况。这引发了人们对公共部门“盲目摸索”的担忧。
与此同时,英国政府部门已经开始使用人工智能技术,例如,将其应用于从福利金发放到移民执法等各个领域的决策中。据《卫报》报道,一些记录显示,公共机构已经授予了人工智能算法服务trac。.
例如,警方采购机构最近发布了一份价值 2000 万美元的人脸识别trac,这进一步引发了人们对“大规模生物识别监控”的担忧。
然而,目前仅有九个算法系统提交至公共登记册,而内政部或警方在福利系统中使用的日益增多的AI程序却一个也没有。今年2月,英国政府宣布,使用AI登记册将成为“所有政府部门的强制性要求”。
当被问及缺乏透明度的问题时,科学与技术大臣彼得·凯尔承认,公共部门“没有足够重视政府在使用算法方面保持透明的必要性”。
“我认同如果政府代表公众使用算法,公众有权知情。”
凯尔。.
“公众需要感受到算法是为他们服务的,而不是反过来。而做到这一点的唯一方法就是让算法的使用过程保持透明,”凯尔补充道。.
英国政府无视警告
据《卫报》报道,专家警告说,如果不加批判地采用人工智能会带来危险,最近的IT系统未能按预期运行的例子包括邮局的Horizon软件。.
白厅对人工智能技术的应用范围十分广泛,从微软的Copilot系统到福利系统中的自动化欺诈和错误检查,无所不包。英国就业与养老金部(DWP)最近发布的另一份人工智能trac通知指出,“DWP内部对人工智能的兴趣与日俱增,这反映了更广泛的政府和社会对此的关注。”
除了警方之外,内政部还使用一套人工智能驱动的移民执法系统。这套系统被批评者称为“机器人案件处理员”,它参与制定包括遣返移民在内的各项决定。.
然而,政府将其描述为“基于规则”的系统,而非人工智能系统,因为它不涉及从数据中学习机器学习。政府表示,这提高了效率,但每个决策仍然由人负责。.
据报道,英国国民医疗服务体系(NHS)英格兰分部还与Palantir公司签订了一份价值3.3亿英镑的trac,旨在建立一个庞大的新数据平台,这进一步引发了人们对患者隐私的担忧。Palantir公司则表示,患者保留对其数据的控制权。.
议员们警告,但警方人脸识别合同的出现trac政府在使用人工智能技术方面缺乏透明度。
“秘密使用人工智能和算法来影响人们的生活,使每个人的数据权利都面临风险,”首席倡导官玛德琳·斯通说。.
“政府部门必须公开透明地说明他们如何使用这项技术。”
石头。.
数据和人工智能研究机构的副主任伊莫金·帕克也对缺乏透明度表示担忧。.
“缺乏透明度不仅让公众蒙在鼓里,也意味着公共部门在采用人工智能方面如同盲人摸象。”
帕克。.
帕克补充说:“未能公布算法透明度记录限制了公共部门确定这些工具是否有效、从无效经验中吸取教训以及监测这些工具的不同社会影响的能力。”.

