영국 정부가 인공지능 시스템 사용 내역을 의무 등록부에 등재하지 않고 있는 것으로 알려지면서 투명성 문제에 대한 우려가 제기되고 있다.
가디언지에 따르면, 기술부 장관은 여러 정부 부처가 다양한 목적으로 인공지능과 알고리즘을 사용하고 있음에도 불구하고, 부처들이 그 사용 내역에 대해 투명하게 공개하지 않고 있다는 점을 인정했습니다.
영국 정부 부처, 인공지능 활용에 대해 "앞이 안 보이는 상태"
가디언지 기사에 따르면 정부가 인공지능(AI) 사용을 의무화하겠다고 밝힌 이후 어느 부처도 AI 활용 계획을 명시하지 않았다고 합니다. 이는 공공 부문이 "눈 감고 운영하는" 격이라는 우려를 불러일으키고 있습니다.
이러한 움직임은 영국 정부 부처들이 이미 인공지능(AI)을 활용하여 복지 수당 지급부터 이민 단속에 이르기까지 모든 사안에 대한 결정을 내리고 있는 상황에서 나온 것입니다. 가디언지에 따르면, 일부 기록에는 공공기관들이 AI 알고리즘 서비스 계약을 체결한trac가 나타나 있습니다.
예를 들어, 경찰 조달 기관은 최근 2천만 달러 규모의 얼굴 인식 기술 도입trac을 공고했는데, 이는 "대규모 생체 인식 감시"에 대한 우려를 더욱 증폭시키고 있습니다
하지만 공개 등록부에 제출된 알고리즘 시스템은 단 9개뿐이며, 내무부 나 경찰이 복지 시스템에 사용하는 인공지능 프로그램은 단 하나도 포함되어 있지 않습니다. 영국 정부는 지난 2월, 인공지능 등록부 사용을 "모든 정부 부처의 필수 요건"으로 지정한다고 발표했습니다.
투명성 부족에 대한 질문을 받았을 때, 피터 카일 과학기술부 장관은 공공 부문이 "정부의 알고리즘 사용 방식에 있어 투명성을 확보해야 할 필요성을 충분히 진지하게 받아들이지 않았다"고 인정했습니다
"정부가 공익을 위해 알고리즘을 사용한다면, 국민은 그 사실을 알 권리가 있다는 점을 인정합니다."
카일.
"대중은 알고리즘이 자신들을 위해 존재하는 것이지 그 반대가 아니라는 느낌을 받아야 합니다. 그러기 위해서는 알고리즘 사용에 대해 투명하게 공개하는 것이 유일한 방법입니다."라고 카일은 덧붙였다.
영국 정부는 경고를 무시했다
가디언지 기사에 따르면 전문가들은 인공지능을 비판 없이 도입할 경우 발생할 수 있는 위험성을 경고했으며, 최근 의도대로 작동하지 않는 IT 시스템의 사례로 우체국의 호라이즌 소프트웨어를 들었습니다.
영국 정부 부처인 화이트홀에서 인공지능(AI) 기술은 마이크로소프트의 코파일럿 시스템부터 복지 시스템의 자동화된 사기 및 오류 검사 시스템에 이르기까지 다양하게 활용되고 있습니다. 최근 영국 노동연금부(DWP)에서 발표한 또 다른 AItrac공고에서는 "DWP 내에서 AI에 대한 관심이 급증하고 있으며, 이는 정부 및 사회 전반의 추세를 반영한다"고 언급했습니다
경찰 외에도 내무부는 인공지능 기반의 이민 단속 시스템을 사용하고 있습니다. 비평가들이 "로봇 사례 관리자"라고 부르는 이 시스템은 사람들을 본국으로 송환하는 것을 포함한 여러 결정에 관여합니다.
하지만 정부는 이를 인공지능 시스템이 아닌 "규칙 기반" 시스템이라고 설명했습니다. 데이터 기반 학습을 거치지 않기 때문입니다. 정부에 따르면 이러한 방식은 효율성을 높이지만, 모든 결정에 대한 책임은 여전히 인간에게 있습니다.
영국 국민보건서비스(NHS England)는 팔란티어와 3억 3천만 파운드 규모의 새로운 데이터 플랫폼 구축trac을 체결한 것으로 알려져 환자 개인정보 보호에 대한 우려가 더욱 커지고 있습니다. 팔란티어 측은 환자들이 데이터에 대한 통제권을 유지한다고 밝혔습니다.
국회의원들이 이를 규제할 법률 제정이 미흡하다고 경고했음에도 불구하고 경찰의 얼굴 인식 계약이 체결된 것은 정부가 인공지능 기술 사용에 대해 투명성이 부족함을 보여주는 것이라고 지적 trac .
"인공지능과 알고리즘을 은밀하게 사용하여 사람들의 삶에 영향을 미치는 것은 모든 사람의 데이터 권리를 위협합니다."라고 최고 옹호 책임자인 매들린 스톤은 말했습니다.
“정부 부처는 이러한 기술을 어떻게 사용하는지에 대해 투명하고 정직해야 합니다.”
결석.
데이터 및 AI 연구 기관의 부소장인 이모젠 파커 역시 투명성 부족에 대한 우려를 표명했습니다.
"투명성 부족은 대중을 무지하게 만들 뿐만 아니라, 공공 부문이 인공지능 도입에 있어 눈을 감고 나아가는 것과 마찬가지입니다."
파커.
파커는 "알고리즘 투명성 기록을 공개하지 않는 것은 공공 부문이 이러한 도구가 효과적인지 판단하고, 효과적이지 않은 부분에서 교훈을 얻고, 이러한 도구가 사회에 미치는 다양한 영향을 모니터링하는 능력을 제한하는 것"이라고 덧붙였다.
