AI 안전에 대한 국제적 합의

역사적인 순간에 영국, 미국, EU, 호주, 중국을 포함한 28개국의 지도자들이 영국 정부가 주최한 AI 안전 정상회의에서 블레츨리 선언에 서명했습니다. 이 획기적인 국제 선언은 인공지능(AI)이 인류에게 잠재적인 파국적 위험을 초래할 수 있다는 공유된 인식을 강조합니다. 이 선언은 AI 기술과 관련된 내재된 도전과 위협을 해결하며, 책임감 있는 AI 개발에 대한 글로벌 약속을 수립하는 것을 목표로 합니다.

블레츨리 선언은 그 종류 중 최초의 국제 협정으로, AI의 이중적 성격을 강조합니다. 즉, 글로벌 진보를 위한 막대한 기회를 제공하는 동시에 상당한 위험도 제시한다는 것입니다. 이 선언은 AI를 안전하고, 인간 중심적이며, 신뢰할 수 있고, 책임감 있는 방식으로 설계, 개발, 배포 및 사용하는 것의 중요성을 강조합니다.

선언은 사이버 보안, 생명공학, 그리고 AI 기반 허위 정보 캠페인을 통한 위험 증폭과 같은 영역에서 의도적인 오용이나 통제 실패로 인한 상당한 위험을 언급하며 우려를 나타냅니다. 이는 AI 모델의 막대한 능력으로 인해 고의적이든 우발적이든 심각한 피해가 발생할 수 있는 잠재력을 강조합니다.

AI 안전을 위한 국제 협력

많은 AI 관련 위험이 본질적으로 글로벌하다는 점을 인정하며, 블레츨리 선언은 이러한 도전에 효과적으로 대응하기 위한 국제 협력을 촉구합니다. 이는 기존 국제 포럼과 이니셔티브를 활용하여 인간 중심적이고 신뢰할 수 있으며 책임감 있는 AI를 촉진하기 위해 정부가 포용적으로 협력하도록 장려합니다.

선언은 또한 다음과 같은 구체적인 약속을 명시합니다:

공유된 AI 안전 위험 식별.

이러한 위험에 대한 과학적이고 증거 기반의 이해 구축.

국가 전반에 걸쳐 위험 기반 정책 개발.

최첨단 AI 능력을 개발하는 민간 행위자 간의 투명성 증진.

적절한 평가 지표 및 안전 테스트 도구 확립.

공공 부문 역량 및 과학 연구 강화.

리시 수낙 영국 총리는 블레츨리 선언을 획기적인 성과로 치하하며, 미래 세대의 웰빙을 위해 AI 위험을 이해하는 시급성에 대한 글로벌 합의에 감사의 뜻을 표했습니다. 그는 영국이 AI 안전 및 연구에 대한 국제적 협력에 약속한 25개국 이상의 국가들을 하나로 모으는 리더십 역할을 강조했습니다.

한국은 6개월 후 또 다른 AI 안전 정상회의를 개최할 의사를 발표했으며, 프랑스는 1년 후 개최할 계획이라고 밝혔습니다. 이는 AI 관련 위험 해결을 위한 지속적인 글로벌 의지를 나타냅니다.

AI 안전을 위한 미국 이니셔티브

정상회의의 주요 참여국인 미국은 AI 안전 문제를 해결하기 위해 추가 조치를 취했습니다. 미국 상무부 장관 지나 레이몬도는 국립표준기술연구소(NIST) 내에 미국 AI 안전 연구소를 설립했다고 발표했습니다. 이 중립적인 제3자 연구소는 AI 안전, 보안 및 테스트를 위한 최고 수준의 표준 개발에 중점을 둘 것입니다.

게다가 바이든 행정부는 최근 오픈AI와 구글을 포함한 AI 기업들이 AI 모델을 출시하기 전에 정부와 안전 테스트 결과를 공유하도록 요구하는 행정명령을 발표했다. 이 조치는 AI 개발의 투명성과 책임성을 강화하는 것을 목표로 한다.

7개국 그룹(G7)은 고급 AI 개발을 위한 자발적 가이드라인을 발표하여 AI 안전 문제 해결을 위한 국제 협력의 중요성을 다시 한번 강조했습니다. 또한 유엔은 업계, 연구, 정부 전문가로 구성된 자체 AI 자문 위원회를 구성하여 책임감 있는 AI 개발을 위한 통찰력과 권장 사항을 제공했습니다.

급속한 AI 발전의 시대에 블레츨리 선언은 AI 기술의 책임감 있는 개발을 보장하기 위한 글로벌 단결과 헌신의 상징으로 자리 잡고 있습니다. 국제 사회는 AI의 잠재력을 인류의 복지를 위해 활용하는 동시에 그것이 초래하는 상당한 위험을 완화할 필요성을 인식하고 있습니다. 국가들이 계속해서 협력하고 이러한 도전에 대응하기 위한 구체적인 조치를 취함에 따라, 안전과 책임이 핵심에 있는 AI의 미래는 유망해 보입니다.

영국에서 열린 AI 안전 정상회의에서 28개국이 서명한 블레츨리 선언은 인공지능과 관련된 위험을 해결하기 위한 국제적 노력에서 중요한 이정표를 나타냅니다. 이 역사적인 협정은 AI의 이중적 성격을 강조하며, 긍정적인 변화를 위한 막대한 잠재력과 파국적 피해의 잠재력을 모두 인정합니다. 이 선언은 AI가 인류에 혜택을 제공하면서 위험을 최소화하도록 보장하기 위해 책임감 있는 AI 개발, 글로벌 협력 및 투명성의 중요성을 강조합니다. 미국 및 기타 국가들이 추가로 약속하고 이니셔티브를 발표함에 따라, 국제 사회는 더 안전한 AI 미래를 향해 구체적인 조치를 취하고 있습니다.