기술 진화에서 영국과 미국의 AI 안전 협정의 역할

AI 안전 협정은 영국과 미국 정부가 혁신적인 접근 방식을 통해 인공지능 기술의 유망한 성장 잠재력과 보안을 개발하기 위한 공동 노력입니다. 

이 협력은 2024년 4월 초 영국 기술부 장관 미셸 도넬런과 미국 상무부 장관 진나 레이몬도에 의해 영국-미국 기술 대서양 전략 대화의 일환으로 공식화되었습니다. 

AI 안전 협정은 새로운 도전 과제와 윤리 기준에 대응

이 협정은 두 국가 간의 과학적 접근 방식과 공동 노력을 동원하여 인공지능 모델, 시스템 및 에이전트를 위한 신뢰할 수 있는 운영자를 만들 수 있도록 하는 것을 목표로 합니다.

인공지능은 의료, 금융, 교육 등 다양한 분야에서 중력을 지니며, 중요한 기반 시설에 의존할 정도로 그 영향력이 큽니다. 그 확산 속도와 인공지능의 컴퓨팅 능력 향상은 상황을 더욱 시급하게 만들며, 엄격한 안전 조치와 윤리 원칙의 제정을 요구합니다. 

IEEE의 수석 회원이자 유일한 엔지니어링 트레이너인 아예샤 이크발에 따르면, 인공지능 성장률은 2023년부터 2030년까지 연간 37.3%로 예측됩니다. 이러한 급격한 확장은 인간 전문가의 공급 부족, 정교한 시스템 및 아키텍처 설계, 정부 관련 문제, 그리고 계획 자동화 및 일자리 대체와 같은 사회적 우려와 같은 도전을 초래합니다.

이 협정은 설명 가능한 AI와 윤리 기준을 장려합니다

이 계약은 인공지능 안전 및 책임 있는 개발 기준을 설정하여 이러한 도전에 대응할 수 있도록 설계되었습니다. 이러한 기준은 위험 감소 조치와 책임 증명을 넘어선 역할을 하며, 신뢰할 수 있는 환경을 조성하고 이러한 시스템의 윤리적 설계를 면밀히 모니터링하는 것을 목표로 합니다.

스탠포드 대학교에서 일하는 인공지능 윤리 엔지니어인 엘리자베스 왓슨은 설명 가능한 인공지능의 중요성과 그 부상을 지적합니다. AI의 이 측면은 알고리즘을 비전문가에게 이해 가능하게 만드는 것과 관련이 있으며, 그들의 해군은 사회의 더 많은 영역에서 점점 더 많은 영향을 받고 있습니다. 이는 더 많은 부문에 포함되어야 하는 중요한 기능입니다. 설명 가능한 AI는 감독 당국과 대중이 알고리즘 결과를 검토하고 이의를 제기할 수 있도록 하여 머신러닝 시스템이 모두 설명 가능하고 책임감 있게 유지되도록 합니다.

선견지명 있는 협력을 통한 글로벌 영향

영국-미국 협력은 AI 안전 분야에서 가장 발전된 두 국가의 전략으로 인식될 수 있습니다. 이러한 협력은 공통 안전 프로토콜을 개발하고 AI 시스템 테스트를 위한 표준을 생성하는 전체적인 조치로서 선도적인 역할을 할 것으로 예상됩니다. 

이러한 프로토콜은 AI 시스템이 알려지지 않은 사례에 일반화할 수 있는지, 동시에 시스템의 기능적 유연성을 유지하면서 합리적인 판단을 내릴 수 있는지 확인하는 도구로 사용됩니다.

이전에 왓슨은 협력을 통해 세계가 우리의 AI 자율성에 대한 사람들의 끊임없는 두려움에 답하는 효과적인 기준의 확산에 노출될 것이라고 말했습니다. 협력적 접근 방식을 통해 영국과 미국은 다른 국가들에게 지원적이고 윤리적인 규칙북 개발의 모범을 제공하며, 이는 장기적으로 AI가 전 세계적으로 어떻게 지배될지 결정할 수 있습니다.

이 협정은 AI 기술이 생성하는 시스템이 만드는 포괄적인 문제에 대한 첫 번째 적극적 조치입니다. 이는 기술 개발에서의 국제 협력의 가치를 나타낼 뿐만 아니라, 과학과 기술이 집단적으로 방향성을 부여받아 AI의 성장을 효과적으로 관리하고 지시할 수 있음을 시사합니다.