영국 정부 AI 서밋: 현재와 미래의 위협에 직면한 약속과 현실

리시 수낙 영국 재무장관이 주도한 최근 AI 정상회의는 영국의 인공지능(AI) 야심에 전 세계의 이목을 집중시켰습니다. 이 정상회의는 미래의 AI 위험으로부터 보호하는 것의 중요성을 강조했지만, 이미 사회에 영향을 미치고 있는 AI로 인한 피해라는 시급한 문제는 다루지 못했습니다. 

간과된 현재의 해악

법 집행 기관과 민간 기업들은 심각한 부정확성에도 불구하고 안면 인식 감시 시스템을 점점 더 많이 도입하고 있습니다. 결함 있는 알고리즘에 기반한 이러한 시스템은 여성과 유색인종을 불균형적으로 차별해 왔습니다. 부정확한 안면 인식 기술은 경찰과 대중 간의 긴장과 불신을 심화시키고 있으며, 이는 '흑인의 생명도 소중하다(Black Lives Matter)' 시위와 사라 에버라드 추모 집회와 같은 사건의 여파에서 확인할 수 있습니다.

더욱이 정부는 AI를 공공 서비스 모델에 깊숙이 통합하여, 숨겨진 알고리즘을 통해 공공 생활의 핵심 측면에 대한 중요한 결정을 내리고 있습니다. A 레벨 평가 실패는 잘못된 알고리즘이 초래할 수 있는 엄청난 혼란을 여실히 보여주는 사례로, 수많은dent에게 자의적인 결과를 초래합니다. 노동연금부 또한 주택, 복지 혜택, 지방세 지원에 대한 접근성에 영향을 미치는 비밀스럽고 침해적이며 차별적인 알고리즘을 사용했다는 이유로 조사를 받았습니다. 이러한 알고리즘은 편견을 자동화하고 영국 저소득층에게 불리하게 작용하며, 공공 서비스에서 AI가 제대로 활용되지 않을 경우 실제로 어떤 결과가 초래될지 보여줍니다.

미래 AI 규제와 데이터 보호 법안

미래의 AI 규제에 대한 논의가 중요하지만, 현재 문제를 해결하고 기존 AI 시스템으로 인한 피해를 완화하는 것 또한 마찬가지로 중요합니다. 인권법과 데이터 보호법은 AI 위협에 대한 가장 효과적인 보호 장치입니다. 그러나 영국 정부는 이러한 근본적인 보호를 약화시킬 위험이 있는 데이터 보호 법안을 의회에서 추진하고 있습니다.

데이터 보호법은 유럽 AI 규제 추세에서 벗어나 법적 안전장치를 대폭 축소하여 대중을 AI의 차별적 영향에 노출시킵니다. 이 법안은 대량 자동화된 의사결정을 정상화하고, 인간의 참여, 공감, 또는 존엄성 없이 이분법적 예측에만 기반한 개인에 대한 의사결정 가능성을 높입니다. 취약하고 소외된 공동체는 이러한 변화로 인해 사생활과 평등이 위협받음에 따라 불균형적으로 더 큰 피해를 입을 것입니다.

행동의 필요성

영국 정부는 AI 정책과 관련하여 중대한 선택에 직면해 있습니다. 고위급 정상회담에서 미래 AI 보호의 중요성을 강조했지만, 정부는 현재의 AI 위협에 대처하는 것을 우선시해야 합니다. 단순한 행동만으로는 충분하지 않습니다. 법적 안전장치를 확보하고 강화해야 합니다.

리시 수낙 영국 총리가 주도한 AI 서밋은 영국의 AI 분야에 대한 야심에 전 세계의 이목을 집중시켰습니다. 정부가 미래의 AI 위험에 집중하는 것은 필수적이지만, 기존 AI 시스템이 초래하는 현실적인 피해를 간과해서는 안 됩니다. 얼굴 인식의 부정확성과 숨겨진 정부 알고리즘은 이미 사회에 영향을 미치고 있으며, 차별, 불신, 그리고 자의적인 결과를 초래하고 있습니다. 또한, 발의된 데이터 보호 법안은 인권과 데이터 보호법을 약화시켜 대중을 AI 관련 위험에 더욱 노출시킬 위험이 있습니다. 정부는 수사보다 실질적인 조치를 우선시하고, 이미 마련된 법적 보호 장치를 보호하며, 현재 AI가 제기하는 시급한 과제들을 해결해야 합니다. 세계 AI 리더십을 추구하는 영국은 자동화된 위협으로부터 국민을 보호하기 위해 직면한 당면 과제들을 잊지 말아야 합니다.