白宫要求联邦机构进行AI偏见测试

作为其推动美国政府以负责任的方式采用AI技术的重大举措之一，白宫规定需要在政府机构使用的AI工具上进行偏见测试。

通过白宫管理和预算办公室（OMB）发布的行政命令，提出了拜登政府的关键政策议程之一，旨在将可能出现的风险（包括歧视和隐私泄露）降至最低。

联邦机构为AI监管和问责做准备

根据这项全政府范围的政策，联邦机构将建立强大的运营系统，以符合人们的权利和安全要求。这些系统应在12月1日前实施，届时人工智能的应用方式将能够影响人们的生活。 

特别是，这些措施旨在消除区别对待、侵犯隐私以及不同部门之间的差异，包括交通运输、医疗保健和服务交付领域的安全。此外，还将任命人工智能主管或犯罪与执法主管，以确保监管到位。

将任命首席人工智能官，以监督OMB人工智能指导方针的执行，并协调其在不同办公室的使用。这些官员将参与创建并确保联邦政府内的人工智能部署具有透明度和问责制。

副总统卡玛拉·哈里斯强调，这些国内政策旨在为全球行动树立榜样，强调在人工智能利用中优先考虑公共利益。政府计划在今年夏天前雇佣至少100名专注于人工智能的员工，进一步凸显了其对这一倡议的承诺。

对高风险系统进行严格测试

高级政府官员概述称，高风险系统将接受严格测试，以识别和减轻潜在的偏见和风险。这种主动方法强调了政府确保在政府运营中负责任地使用人工智能技术的承诺。

根据新指南，如果美国人认为系统导致虚假信息或影响他们的决定，他们可以寻求补救措施。 

联邦机构必须公布系统列表、风险评估和管理策略。对于不符合政府规则的软件可能会授予豁免，但必须提供理由，从而促进人工智能部署的透明度和问责制。

挑战与未来方向

民主与技术中心（Center for Democracy and Technology）的总裁兼首席执行官Alexandra Reeve Givens称赞这一指导方针是确保联邦机构内负责任AI使用的重要一步。

吉文斯强调了建立严格流程的重要性，以评估新技术对个人和社区的影响。

虽然联邦机构多年来一直在利用人工智能技术，但人工智能的更广泛监管在国会陷入停滞。因此，拜登政府正利用其作为主要技术客户的地位来建立保障措施并促进负责任的人工智能采用。

尽管政府采取了主动措施，但仍存在挑战，特别是关于人工智能系统中偏见的延续问题。人工智能决策中的种族偏见和不准确实例凸显了在人工智能部署中持续警惕和监管的必要性。

白宫要求联邦机构进行偏见测试并监管人工智能使用，这是确保人工智能技术负责任和道德采用的重要一步。通过实施具体的保障措施、促进透明度和培养公众问责制，政府旨在解决潜在风险，同时利用人工智能对社会有益的变革潜力。