정부, 전쟁에서의 AI 윤리적 사용에 경고

영국 정부는 방위, 특히 AI 지원 자율 무기 시스템(AWS)에 인공지능(AI)을 통합하려는 야심에 대해 경고받았습니다. 하원 의회 AI 보고서인 Weapon Systems Committee는 AI 개발과 사용, 특히 자율 무기 시스템과 관련하여 윤리적 및 법적 고려사항, 대중의 신뢰, 민주적 승인이 필요함을 강조합니다.

AWS를 통한 전쟁에 AI의 잠재적 통합은 방위 기술에서 게임 체인저로 touted됩니다. 그러나 하원 의회 위원회는 윤리적 및 법적 원칙을 훼손하지 않고 혜택을 활용하기 위해 신중하고 책임감 있는 접근의 중요성을 강조합니다.

주요 권장 사항

상원 귀족위원회 보고서에서는 전쟁에서의 인공지능(AI)에 대한 정부의 접근 방식을 안내하기 위한 몇 가지 주요 권고 사항을 제시합니다.

1. 국제 규제에서의 선도적 역할

영국 정부는 자율무기시스템(AWS) 규제와 관련된 국제적 협력에서 선도적인 역할을 수행할 것을 촉구받았습니다. 국제 논의의 결과는 국제 인도법 적용을 명확히 하는 법적 구속력 있는 조약 또는 비구속력 있는 조치로 이어질 수 있습니다. 또한 영국은 AI의 핵 명령, 통제 및 통신 사용 금지를 위한 노력을 주도해야 합니다.

2. 운영상의 정의 확립

놀랍게도 영국 정부는 현재 AWS에 대한 운영상의 정의를 가지고 있지 않습니다. 위원회는 정책 개발과 국제 대화 참여를 돕기 위해 미래 지향적인 정의를 제안합니다. AWS 관련 논의에 의미 있게 참여하기 위해서는 명확한 정의가 필수적입니다.

3. 인간 통제 보장

위원회는 AWS의 전 생애 주기 전반에 걸쳐 인간 통제를 유지할 것을 강조합니다. 여기에는 국제 인도법과 일치하도록 인간의 도덕적 주체성과 법적 준수를 보장하기 위한 배포가 포함됩니다. 보고서는 영국이 이러한 요구 사항에 대한 의지를 가지고 있음을 강조합니다.

4. 조달 프로세스 개편

국방부의 조달 프로세스는 책임 소재가 불분명하고 관료주의가 심하다는 비판을 받고 있습니다. 또한 해당 부처는 AI 개발에 핵심적인 소프트웨어 및 데이터 역량이 부족하다는 지적을 받았습니다. 위원회는 이러한 문제 해결의 시급성을 강조하며, 혁명적인 변화가 필요할 수 있다고 경고합니다.

의장 관점

무기 시스템용 인공지능 위원회 의장인 리즈베인 경은

리즈베인 경은 더 나아가

상원 귀족위원회 보고서의 초점은 방위 분야에서의 AI가 가진 변혁적 잠재력에 있으며, 영국 정부에게 신중함, 책임감, 투명성을 가지고 접근할 것을 촉구합니다. 이 권고 사항들은 국제적 리더십, 운영상의 명확성, 인간 통제, 그리고 개편된 조달 프로세스의 중요성을 강조하여, 윤리와 법적 준수에 타협하지 않고 국가 안보를 위해 AI를 활용해야 함을 강조합니다.

AI 시대의 글로벌 환경이 진화함에 따라, 영국이 전쟁에서의 AI에 대해 취하는 접근 방식은 국제 논의와 규제에 확실히 영향을 미치며 전 세계 자율무기시스템의 미래를 형성할 것입니다.