영국 정부는 AI 사용에 대해 투명하지 않다고 기술 장관이 말함

영국 정부는 의무 등록부에 AI 시스템 사용 내역을 게시하지 않고 있어 투명성 문제에 대한 우려가 제기되고 있습니다.

가디언에 따르면, 기술 장관은 이후 다양한 정부 부처가 다양한 목적으로 AI를 사용함에도 불구하고 부처들이 AI 및 알고리즘 사용에 대해 투명하지 않다고 인정했습니다.

영국 정부 부처, AI 사용에 대해 "안개 속을 날고 있다"

가디언 기사는 정부가 AI 사용이 의무화될 것이라고 밝힌 이후에도 나열된 어느 부서도 AI 사용을 명시하지 않았다고 밝혔습니다. 이로 인해 공공 부문이 "안개 속을 날고 있다"는 우려가 제기되었습니다.

이는 영국 정부 부처가 이미 AI를 사용하고 있는 시점과 맞물립니다. 예를 들어, 복지 지급부터 이민 단속까지 모든 사항에 대한 결정을 내리는 데 AI가 활용됩니다. 가디언에 따르면 일부 기록에 따르면 공공 기관이 AI 알고리즘 서비스에 대한 계약을 수여한 것으로 나타났습니다.

예를 들어, 경찰 조달 기관은 최근 2,000만 달러 규모의 얼굴 인식 계약을 공개했으며, 이는 "대규모 생체 인식 감시"에 대한 우려를 더욱 높였습니다.

그러나 공공 등록부에 제출된 알고리즘 시스템은 단 9개에 불과하며, 영국 내무부나 경찰이 복지 시스템에서 사용하는 증가하는 수의 AI 프로그램은 하나도 없습니다. 2월 영국 정부는 AI 등록부 사용이 이제 "모든 정부 부처의 요구 사항"이 될 것이라고 발표했습니다.

투명성 부재에 대해 과학기술부 장관 피터 카일은 공공 부문이 "정부가 알고리즘을 사용하는 방식에 대해 투명해야 할 필요성을 충분히 심각하게 받아들이지 못했다"고 인정했습니다.

"정부가 공공을 대신해 알고리즘을 사용하는 경우, 공공은 이를 알 권리가 있다는 점을 인정합니다."

카일.

"공중은 알고리즘이 그들을 위해 존재하며 그 반대는 아니라는 느낌을 받아야 합니다. 이를 달성할 유일한 방법은 사용에 대해 투명해지는 것입니다."라고 카일은 덧붙였습니다.

영국 정부는 경고를 무시함

가디언 기사에 따르면, 전문가들은 AI를 비판 없이 채택할 경우의 위험성에 대해 경고했으며, 최근 IT 시스템이 의도대로 작동하지 않은 사례로는 우체국의 호라이즌 소프트웨어가 있습니다.

화이트홀에서의 AI 기술 사용은 마이크로소프트의 코파일럿 시스템부터 복지 시스템의 자동 사기 및 오류 확인에 이르기까지 다양합니다. 또 다른 최근 영국 고용연금부(DWP)의 AI 계약 공고는 "DWP 내에서, 그리고 더 넓은 정부와 사회 전반에 걸쳐 관심이 급증하고 있다"고 설명했습니다.

경찰 외에도 내무부는 AI 기반 이민 단속 시스템을 사용합니다. 이 시스템은 비판가들이 "로보 케이스워커"라고 부르는 것으로, 사람들을 본국으로 송환하는 것을 포함한 결정 형성에 관여합니다.

그러나 정부는 이것이 머신러닝을 데이터에서 학습하지 않기 때문에 AI 시스템이 아닌 "규칙 기반" 시스템이라고 설명했습니다. 정부에 따르면 이는 효율성을 가져오지만, 각 결정에 대해 인간이 책임을 집니다.

영국 NHS는 또한 팔란타와 3억 3,000만 파운드 규모의 계약을 체결하여 새로운 대규모 데이터 플랫폼을 구축 중이며, 이는 환자 프라이버시에 대한 우려를 더욱 높이고 있습니다. 팔란타는 환자가 데이터에 대한 통제권을 유지한다고 말했습니다.

프라이버시 권리 캠페인 그룹인 빅 브라더 워치는 경찰의 얼굴 인식 계약이 등장했지만, 이를 규제할 입법 부재에 대해 의회의원들이 경고했음에도 불구하고, 이는 정부가 AI 기술 사용에 대해 투명하지 않음을 보여준다고 강조했습니다.

"비밀리에 AI와 알고리즘을 사용하여 사람들의 삶에 영향을 미치는 것은 모든 사람의 데이터 권리를 위험에 빠뜨립니다."라고 마들린 스톤 수석 옹호 책임자가 말했습니다.

"정부 부처는 이 기술을 어떻게 사용하는지 공개적이고 정직해야 합니다."

스톤.

데이터 및 AI 연구 기관의 부국장 이모진 파커도 투명성 부재에 대해 우려를 표명했습니다.

"투명성 부재는 단순히 대중을 어둠 속에 가두는 것뿐만 아니라, 공공 부문이 AI를 채택하는 과정에서 안개 속을 날고 있음을 의미합니다."

파커.

"알고리즘 투명성 기록을 게시하지 않는 것은 공공 부문이 이러한 도구가 작동하는지 여부를 결정하고, 작동하지 않는 것에서 배우며, 이러한 도구의 다양한 사회적 영향을 모니터링하는 능력을 제한합니다."라고 파커는 덧붙였습니다.