AI 안전 협정은 혁신적인 접근 방식을 통해 인공 지능 기술의 유망한 성장 잠재력과 보안을 개발하기 위한 영국과 미국 정부 간의 공동 노력입니다.
이 참여는 2024년 4월 초 영국-미국 대서양 횡단 기술 전략 대화에 따라 영국 기술 장관 Michelle Donelan과 미국 상무부 장관 Gina Raimondo에 의해 공식화되었습니다.
새로운 과제와 윤리 기준을 해결하기 위한 AI 안전 계약
이 협정은 작업을 완료할 수 있는 인공 지능 모델, 시스템 및 에이전트를 위한 신뢰할 수 있는 지휘자를 만들 수 있도록 두 주 간의 과학적 접근 방식과 공동 노력을 참여시키려는 것입니다.
인공지능은 중요하고 민감한 인프라에 의존해 올 정도로 의료, 금융, 교육 등 다양한 분야에서 중력을 갖고 있다. 확산 속도와 인공지능의 컴퓨팅 능력 향상으로 인해 상황은 더욱 급박해지고 엄격한 안전 조치와 윤리 원칙의 제정이 요구되고 있습니다.
IEEE matic 회원이자 유일한 엔지니어링 트레이너인 아예샤 이크발(Ayesha Iqbal)에 따르면, 2023년부터 2030년까지 인공지능 성장률은 연간 37.3%로 예측된다. 시스템 및 아키텍처 설계, 정부 관련 문제, 계획 자동화 및 일자리 대체와 같은 사회적 문제.
이 협약은 설명 가능한 AI와 윤리적 표준을 장려합니다.
이번 거래는 인공지능 안전과 책임 있는 개발 표준을 설정함으로써 이러한 과제를 해결할 수 있도록 합리적으로 이루어졌습니다. 이러한 표준은 위험 감소 조치 및 책임 증명의 역할만 하는 것이 아닙니다. 또한 신뢰할 수 있는 환경을 조성하고 해당 시스템의 윤리적 설계를 꼼꼼하게 모니터링하기 위한 것입니다.
스탠포드 대학에서 일하는 인공지능 윤리 엔지니어 엘리자베스 왓슨은 설명 가능한 인공지능의 중요성과 그 부상을 지적합니다. AI의 이러한 측면은 해군이 사회의 더 많은 영역에 점점 더 많은 영향을 미치고 있는 비전문가가 알고리즘을 이해할 수 있도록 만드는 것입니다. 이는 더 많은 분야에 있어야 하는 중요한 기능입니다. 설명 가능한 AI는 감독 당국과 대중이 알고리즘 결과를 확인하고 이의를 제기하는 과정을 용이하게 하여 머신러닝 시스템이 설명 가능하고 책임감이 있는지 확인합니다.
미래 지향적인 협업을 통한 글로벌 효과
여기서 영국-미국 협력은 AI 안전 분야에서 가장 발전된 두 국가의 전략으로 인식될 수 있습니다. 이러한 협력은 AI 시스템 테스트를 위한 표준을 건전하게 만드는 동시에 공동으로 행동하고 공통 안전 프로토콜을 개발하는 데 앞장설 것으로 예상됩니다.
이러한 프로토콜은 AI 시스템이 알려지지 않은 사례에 일반화할 수 있는지 확인하는 동시에 시스템의 기능적 유연성을 유지하면서 합리적인 판단을 내릴 수 있는지 여부를 확인하는 도구 역할을 합니다.
앞서 왓슨은 협업의 결과로 AI 자율성에 대한 사람들의 끊임없는 두려움에 답할 효과적인 표준이 확산되는 것을 세계가 알게 될 것이라고 말했습니다. 영국과 미국은 공동 접근 방식을 통해 장기적으로 AI가 전 세계적으로 관리되는 방식을 결정할 수 있는 지원적이고 윤리적인 규칙서를 개발하는 데 있어 다른 국가에 모범을 제공합니다.
이번 합의는 AI 기술 신흥 시스템이 만들어내는 포괄적인 문제에 대한 최초의 사전 조치가 되었습니다. 이는 기술 개발에 있어서 국제 협력의 가치를 의미할 뿐만 아니라, 과학과 기술이 방향성을 가지고 집합적으로 주입되어 AI의 성장을 효과적으로 관리하고 지도할 수 있다는 사실을 의미합니다.
