马约卡斯公布国土安全部人工智能安全战略

美国国土安全部人工智能咨询委员会于本周一举行了首次会议。该委员会旨在改进其对人工智能技术部署的管理，并保护该技术免受外部威胁。

应对人工智能偏见和安全风险

在RSA大会的记者问答环节和面向员工的主题演讲中，Mayorkas讨论了人工智能安全问题以及董事会首次会议的讨论结果。成员们讨论了关键设施中的人工智能安全问题。他们还谈到了在国土安全部任务中实施人工智能可能带来的人权影响，其中一些人强调了人工智能有可能被用来扩大现有的隐性偏见。.

人工智能系统在肤色歧视和性别歧视方面的表现一直是专家和联邦政府长期关注的问题，因为思想领袖和政府官员大多是少数族裔，他们不愿费心测试这些产品，以检验其对女性和有色人种是否适用。此外， 白宫 和司法部也启动了一些项目，旨在消除人工智能系统带来的偏见。

国土安全部（DHS）的董事会成员名单已公布，该董事会将每季度召开一次会议。成员包括OpenAI首席执行官萨姆·奥特曼、活跃于人工智能领域的政府官员以及关键基础设施和科技公司的所有者。梅约卡斯表示，人工智能的应用领域超过20种，从专注于飓风灾害保险索赔到最近帮助联邦紧急事务管理局（FEMA）培训难民案件处理人员。.

全球合作应对人工智能威胁

国土安全部官员在报告中强调，他们创建了一个门户网站，列出了因各利益相关方的不同担忧而部署或撤销人工智能技术的项目。 国土安全部 官员还强调，该部门正寻求扩大人工智能相关领域的员工队伍，目前已收到3000份相关职位申请。

Mayorkas表示，董事会已启动战略和计划的制定工作，旨在预防人工智能可能面临的威胁，并降低人工智能应用过程中出现不良后果的风险。董事会的补充工作进展顺利。董事会成员均为国际 人工智能 一点至关重要，因为他们将与其他国家合作，共同应对人工智能立法方面的挑战。

然而，仅靠全球参与者的共同努力并不能保护人工智能系统。这种情况需要各方合作，构建一套稳固的防御机制。.