최근 보고서에서 미국 정부책임감사원(GAO)은 인공지능(AI) 도입 및 포괄적인 사용 표준 수립에 대한 미국 정부의 준비 부족에 대한 우려를 제기했습니다. 이 보고서는 정부 기관 내 AI 도입의 급속한 증가를 강조하지만, 명확한 로드맵과 표준의 부재로 인해 심각한 보안 위험이 발생할 수 있음을 강조합니다.
정부 기관 전반에서 AI 도입 확대
GAO의 96페이지 분량의 포괄적인 보고서는 비군사 정부 기관에서 AI와 머신러닝의 역할 확대를 입증하기 위한 상당한 노력을 보여줍니다. 이 보고서는 현재 연방 정부 전반에서 AI가 228가지의 다양한 방식으로 활용되고 있으며, 이러한 활용 사례의 거의 50%가 지난 한 해 동안 등장했다고 밝힙니다. 이러한 활용 사례의 대부분(약 70%)은 과학 연구와 관련이 있거나 기관 내부 관리 개선을 목표로 합니다.
보고서에는 71가지 AI 활용 사례가 나열되어 있지만, 그중 공개된 사례는 10가지에 불과합니다. 상무부의 산불 trac, 야생 동물 개체 수 자동 집계, NASA의 AI 기반 지구 화산 활동 모니터링 등이 그 예입니다. 국토안보부 또한 카메라와 레이더 데이터 분석을 통해 관심 있는 국경 활동을dent위해 AI를 활용하고 있습니다.
그러나 보고서는 많은 AI 응용 분야가 여전히 기밀로 분류되어 있으며, 연방 기관은 총 1,241건의 활성 및 계획된 AI 활용 사례 중 70%만 공개하고 있다고 밝혔습니다. 350건 이상의 기술 활용 사례는 민감한 것으로 간주되어 공개가 보류되었습니다. 특히 국무부와 같은 기관에서dent 이러한 비밀주의는 AI 활용 분야의 투명성과 감독에 대한 우려를 불러일으킵니다.
GAO는 AI 표준 및 정책 부족에 대해 우려를 표명했습니다.
정부 기관들이 다양한 용도로 AI를 점점 더 적극적으로 도입하고 있는 가운데, GAO 보고서는 민간 부문에서 AI 기술을 책임감 있게 도입하고 활용할 수 있도록 표준화된 정책이 절실히 필요함을 강조합니다. 명확한 지침의 부재는 국가 안보와 미국 시민의 안녕에 잠재적 위험을 초래합니다.
보고서는 연방 기관들이 일관된 지침 없이 정책을 개발하고 있으며, 이로 인해 모범 사례와 일치하지 않는 관행이 발생할 가능성이 있다고 지적합니다. 이러한 상황은 AI 구현의 효과를 저해할 뿐만 아니라 국가 복지와 안보에 미치는 영향에 대한 우려를 불러일으킵니다.
GAO가 지적한 중요한 문제 중 하나는 관리예산처(OMB)의 지침 발표 지연입니다. OMB는 2020년 연방 정부 내 AI 활용에 관한 법률에 따라 2021년 9월까지 각 기관에 지침 초안을 제공할 예정이었습니다. 그러나 이 지침은 2023년 11월에야 발표되어 마감일을 2년 이상 넘겼습니다. 이러한 지연은 연방 기관 전반에 걸쳐 일관된 AI 정책 수립을 저해했습니다.
법 집행 및 개인 정보 보호 문제에서 AI의 역할
이와 관련하여, GAO는 지난 9월 법 집행관들의 AI, 특히 안면 인식 기술 사용에 대해 우려를 표명한 바 있습니다. 보고서에 따르면 2019년부터 2022년까지 수천 건의 안면 인식 수색이 적절한 교육 없이 수행되었으며, 이는 신원dent으로 인한 부당 체포로 이어질 가능성이 있습니다. 이 문제는 책임감 있는 AI 사용의 중요성과 명확한 정책 및 감독의 필요성을 강조합니다.
GAO 보고서는 미국 정부에 중요한 경종을 울리며, 정부 기관 내 AI 도입의 급속한 확대와 AI 활용을 규제하는 포괄적인 표준 및 정책의 부재를 강조합니다. AI는 정부 운영 및 서비스 개선에 막대한 잠재력을 가지고 있지만, 명확한 지침의 부재는 심각한 보안 및 개인정보 보호 위험을 초래합니다. 정부가 필수적인 지침 발표를 미루는 것은 상황을 더욱 악화시킵니다. AI가 사회에서 점점 더 중요한 역할을 함에 따라, 이러한 우려를 해소하고 견고한 거버넌스 프레임워크를 구축하는 것이 필수적입니다.
