영국 정보기관, 감시 우려 속 AI 규제 완화를 촉구

MI5와 MI6를 포함한 영국 정보기관들은 영국 정부가 인공지능(AI) 규제에 대해 더 경량화된 접근 방식을 채택하도록 촉구하고 있는 것으로 보고되었습니다. 이는 영국 내무부가 조사 권한이 사생활과 어떻게 교차할 수 있는지 평가하기 위해 2016년 조사 권한법(IPA)의 잠재적 수정 사항을 검토하기 위해 위임한 독립 검토의 결과입니다.

검토, AI 훈련을 위한 데이터 보호 약화 제안

영국 귀족원 의원 데이비드 앤더슨이 이끄는 검토는 대량 개인 데이터 세트(BPDs)를 사용하여 AI 시스템을 훈련하는 데 사용될 수 있는 대량 개인 데이터 세트(BPDs) 주변의 데이터 보호 규정을 약화시키는 주요 제안을 강조합니다. 앤더슨의 조사에 따르면 현재 IPA는 2030년대에 AI 기술의 발전에 대응하기 위해 전면적인 개편이 필요할 수 있습니다.

IPA는 에드워드 스노든이 2013년 미국 국가안보국(NSA)이 감시 목적으로 수천 명의 버라이즌 고객들의 전화 기록을 수집하고 있었다는 사실을 폭로한 이후 처음 도입되었습니다.

AI와 감시의 균형 모색

데이비드 앤더슨은 AI가 IPA 도입 이후 가장 중요한 기술적 발전 중 하나라고 인정합니다. 그러나 그는 또한 보안에서의 AI 역할이 보안 조치를 촉진하는 것과 잠재적 위협 행위자를 무의식적으로 가능하게 하는 것 사이의 미묘한 균형에 있다고 지적합니다. 그는 이러한 균형을 신뢰할 수 있게 예측하는 것이 어려운 과제라고 강조합니다.

유럽연합의 AI법 및 AI 분류

유럽연합의 AI법은 생체 인식 감시 및 잠재적 알고리즘 편향과 같은 요소를 고려하여 AI 도구를 위험 수준에 따라 분류하는 것을 목표로 합니다. 그러나 이 법안은 높은 위험 AI 분류에 엄격한 규칙을 부과함으로써 혁신의 잠재적 장벽으로 간주하는 빅테크 기업들로부터 비판을 받았습니다.

자산 모니터링 및 가정용 감시를 위한 AI 활용

글로벌데이터(GlobalData)가 실시한 최근 설문 조사에 따르면, 기업 중 17%가 이미 자산 모니터링 및 감시 목적으로 AI를 사용하고 있습니다. 또한 AI는 가정용 감시 분야에서도 점차 그 역할을 확대하고 있습니다.

미국 국가지리정보국(NGA)은 이미 이미지 분석 속도를 높이기 위해 AI를 운영에 통합했습니다. 그러나 해당 기관은 AI가 미국인을 감시하는 데 사용되는 것이 아니라 분석 능력을 향상시키는 데 사용된다고 명시적으로 밝혔습니다.

감시에 AI를 통합함에 따른 윤리적 우려

AI가 정보 수집 및 분석에서 잠재적 이점을 지니고 있음에도 불구하고, 이를 '관찰, 방향 설정, 결정, 행동(OODA) 루프'에 통합할 때 윤리적 우려가 제기됩니다. 글로벌데이터의 졸업 분석가인 벤자민 친(Benjamin Chin)은 이러한 시나리오에서 AI에게 얼마나 많은 통제를 위임하는지에 대해 의문을 제기합니다.

친은 AI가 정보 작업에 능숙하며 미래에는 인간을 능가할 수 있다고 인정합니다. 그러나 그는 현재 기술이 여전히 편향과 오류에 취약하여 신뢰할 수 있는 감시 도구로서의 명성을 훼손할 수 있다고 경고합니다.

또한 AI 알고리즘은 종종 '블랙박스' 모델로 작동하여 의사 결정 과정을 불투명하고 설명하기 어렵게 만듭니다. 이러한 내부 작동 방식을 완전히 이해할 수 없는 시스템에 대한 신뢰 부족은 우려를 자아냅니다.

글로벌데이터의 2023년 AI 관련 주제 인텔리전스 보고서는 AI가 생명에 영향을 미치는 결정에 점점 더 관여함에 따라 투명성과 설명 가능성이 AI 개발자가 고려해야 할 필수적인 자질이 될 것이라고 강조합니다.

감시 및 정보 작전에 AI를 통합하는 데 대한 지속적인 논쟁은 보안과 사생활 보호 우려 사이의 미묘한 균형을 강조합니다. 영국 정보 기관들은 AI 규제에 대해 덜 개입적인 접근 방식을 모색하고 있지만, 윤리적 고려 사항과 투명성 및 설명 가능성의 필요성은 이러한 중요한 도메인에서 AI를 활용하는 데 여전히 중요합니다. 기술이 발전함에 따라 정책 입안자와 전문가들은 국가 안보와 개인 권리를 모두 보호하는 균형을 찾기 위해 협력해야 합니다.