백악관, 연방 기관에 AI 편향 테스트 의무화

미국 정부에서 AI 기술의 채택을 책임감 있는 접근 방식으로 촉진하기 위한 주요 이니셔티브 중 하나로, 백악관은 정부 기관 전반에서 사용되는 AI 도구에 대해 편향 테스트를 수행할 필요성을 규정했습니다.

OMB를 통해 발표된 이 행정명령은 차별과 프라이버시 침해와 함께 발생할 수 있는 최소한의 위험을 통제하도록 설계된 바이든 행정부의 주요 정책 의제 중 하나를 제시합니다.

연방 기관, AI 감독 및 책임성 준비

정부 전체 정책으로 발표된 바와 같이, 연방 기관은 사람들의 권리와 안전을 준수하기 위해 강력한 운영 시스템을 구축할 것입니다. 인공지능이 사람들의 삶에 영향을 미칠 수 있는 방식으로 적용될 때인 12월 1일까지 구현되어야 합니다. 

특히 이러한 조치는 교통, 의료 및 서비스 제공을 포함한 다양한 부문 간의 차별, 사생활 침해 및 편차를 제거하도록 설계되었습니다. 감독을 보장하기 위해 다른 조치 외에도 인공지능 수석 또는 범죄 및 집행 수석이 임명되어야 합니다.

OMB의 인공지능 지침이 실행되는 방식을 감독하고 다양한 부서 간 사용을 조정하기 위해 수석 인공지능 책임자(CAIO)가 임명될 것입니다. 이 관리자들은 연방 정부 내 인공지능 배포가 투명하고 책임감 있도록 보장하는 데 관여할 것입니다.

카마라 해리스 부통령은 이러한 국내 정책이 글로벌 행동을 위한 모델로 dienen하기를 의도하며, 인공지능 활용에서 공공 이익을 우선시하는 중요성을 강조했습니다. 행정부는 여름까지 인공지능에 집중하는 최소 100명의 직원을 고용할 계획이며, 이는 이 이니셔티브에 대한 그들의 헌신을 더욱 강조합니다.

고위험 시스템에 대한 엄격한 테스트

고위 행정 관리자들은 고위험 시스템이 잠재적 편향과 위험을 식별하고 완화하기 위해 엄격한 테스트를 받을 것이라고 밝혔습니다. 이러한 예방적 접근 방식은 정부 운영에서 인공지능 기술의 책임감 있는 사용을 보장하려는 행정부의 의지를 강조합니다.

새로운 지침에 따라 미국인들은 시스템이 자신에게 영향을 미치는 잘못된 정보나 결정을 초래했다고 믿을 경우 구제를 요청할 수 있습니다. 

연방 기관은 시스템 목록, 위험 평가 및 관리 전략을 게시해야 합니다. 행정부 규칙을 준수하지 않는 소프트웨어에 대해 면제가 부여될 수 있지만, 정당성이 제공되어야 하며, 이는 인공지능 배포에서 투명성과 책임성을 촉진합니다.

과제와 향후 방향

민주주의 및 기술 센터의 회장兼 CEO인 알렉산드라 리브 가빈스는 이 지침이 연방 기관 내에서 책임감 있는 AI 사용 보장을 위한 중요한 한 걸음이라고 치하했습니다.

가빈스는 새로운 기술이 개인과 커뮤니티에 미칠 잠재적 영향을 평가하기 위해 엄격한 프로세스가 마련되어 있는 것의 중요성을 강조했습니다.

연방 기관이 수년간 AI 기술을 활용해 왔지만, AI의 광범위한 규제는 의회에서 교착 상태에 빠져 있습니다. 결과적으로 바이든 행정부는 주요 기술 고객으로서 정부의 지위를 활용하여 안전 장치를 마련하고 책임감 있는 AI 채택을 촉진하고 있습니다.

행정부가 취한 예방적 조치에도 불구하고, 특히 AI 시스템의 편향 고착화와 관련하여 여전히 과제가 남아 있습니다. 인종 편향과 AI 기반 의사결정의 부정확성 사례는 AI 배포에서 지속적인 경계와 감독의 필요성을 강조합니다.

연방 기관의 AI 사용에 대한 편향 테스트 및 감독에 대한 백악관의 명령은 AI 기술의 책임감 있고 윤리적인 채택을 보장하기 위한 중요한 한 걸음을 나타냅니다. 구체적인 안전 장치를 구현하고, 투명성을 촉진하며, 공공 책임성을 장려함으로써 행정부는 잠재적 위험을 해결하면서 사회의 이익을 위해 AI의 변혁적 잠재력을 활용하고자 합니다.