영국 정부는 국방 분야, 특히 AI 기반 자율 무기 시스템(AWS)에 인공지능(AI)을 도입하려는 야심에 대해 경고를 받았습니다. 상원 무기 시스템 위원회의 인공지능 보고서는 AI 개발 및 사용, 특히 자율 무기 시스템과 관련하여 윤리적·법적 고려 사항, 국민의 신뢰, 그리고 민주적 승인이 필요하다고 강조합니다.
AWS를 통한 인공지능의 전쟁 도입 가능성은 국방 기술의 판도를 바꿀 것으로 평가받고 있습니다. 그러나 영국 상원 위원회는 윤리적, 법적 원칙을 훼손하지 않으면서 이러한 이점을 활용하기 위해서는 신중하고 책임감 있는 접근 방식이 중요하다고 강조했습니다.
주요 권장 사항
영국 상원 위원회의 보고서는 전쟁에서의 인공지능 활용에 대한 정부의 접근 방식을 안내하는 몇 가지 핵심 권고 사항을 제시합니다.
1. 국제 규제 분야를 선도합니다
영국 정부는 인공지능(AI) 기반 핵무기(AWS) 규제와 관련하여 국제적인 협력에 주도적인 역할을 해야 합니다. 국제적인 논의의 결과는 법적 구속력이 있는 조약이나 국제인도법 적용을 명확히 하는 비구속적 조치로 이어질 수 있습니다. 또한, 영국은 핵 지휘, 통제 및 통신에 AI 사용을 금지하기 위한 노력을 선도해야 합니다.
2. 운영 defi정의 수립
놀랍게도 영국 정부는 현재 AWS에 대한 명확한 defi를 갖고 있지 않습니다. 위원회는 정책 개발 및 국제 대화 참여를 지원하기 위해 미래에도 유효한 defi를 마련할 것을 제안합니다. AWS에 대한 의미 있는 논의를 위해서는 명확한 defi가 필수적입니다.
3. 인간의 통제 보장
위원회는 AWS의 모든 생애주기 단계에서 인간의 통제를 유지하는 것을 강조합니다. 여기에는 인간의 도덕적 판단력과 법적 준수를 보장하기 위한 배포가 포함되며, 이는 국제 인도법에 부합합니다. 보고서는 이러한 요건에 대한 영국의 확고한 의지를 강조합니다.
4. 조달 프로세스 개편
국방부의 조달 절차는 책임성 부족과 지나친 관료주의로 비판받고 있습니다. 또한, 국방부는 인공지능 개발에 필수적인 소프트웨어와 데이터 역량이 부족하다는 지적을 받고 있습니다. 위원회는 이러한 문제들을 시급히 해결해야 한다며, 혁신적인 변화가 필요할 수 있다고 경고합니다.
의장의 관점
무기 체계 인공지능 위원회 위원장인 리스베인 경은 "인공지능은 우리 삶의 다양한 측면에 스며들었으며, 국방 분야도 예외는 아닙니다. 인공지능이 국방 기술을 혁신할 잠재력은 논쟁과 논란의 대상입니다. 인공지능은 상당한 전략적 및 전장 이점을 제공할 수 있지만, 저희 보고서 '신중한 접근: 무기 체계의 인공지능'은 정부가 신중한 접근 방식을 취해야 할 필요성을 강조합니다."라고 말했습니다.
리스베인 경은 또한 “정부가 미래 국방 역량에서 책임 있는 AI의 역할을 인정한 것을 환영합니다. 그러나 AWS의 AI 개발 모든 단계에는 윤리적, 법적 원칙이 통합되어야 하며, 대중의 이해와 민주적 지지를 확보하기 위한 노력이 수반되어야 합니다. 기술은 우리의 역량을 향상시켜야 하지만, 도덕적 원칙을 희생해서는 안 됩니다.”라고 밝혔습니다.
영국 상원 위원회의 보고서는 국방 분야에서 인공지능(AI)이 지닌 혁신적인 잠재력을 강조하는 동시에 영국 정부가 신중하고 책임감 있으며 투명한 자세로 접근할 것을 촉구했습니다. 권고안은 국제적 리더십, 명확한 작전 범위, 인간의 통제, 그리고 개선된 조달 절차의 중요성을 강조하며, AI가 윤리와 합법성을 훼손하지 않고 국가 안보에 활용될 수 있도록 보장해야 한다고 역설합니다.
인공지능 시대에 접어들면서 세계 정세가 변화함에 따라, 전쟁 분야에서 영국의 인공지능 접근 방식은 국제적인 논의와 규제에 영향을 미치고, 전 세계 자율 무기 시스템의 미래를 형성할 것입니다.
