서울 선언은 어떻게 인공지능 개발 방향을 공익 방향으로 이끌 수 있을까?

이번 주 AI 서울 서밋에서 AI 안전에 대한 새로운 약속이 합의되었습니다. 서울 선언은 AI와 관련된 이점과 위험에 대한 상호 견해를 확인하는 것입니다.

윤석열 한국 대통령dent 리시 수낙 영국 총리와 화상 회의를 통해 공동 의장직을 맡아 정상회의를 주재했습니다. 두 정상은 인공지능의 안전성, 포용성, 혁신성을 강조하는 서울 선언에 합의했습니다.

관련 기사: 두바이 핀테크 서밋, 118개국 8,000명 이상 방문객과 함께 성황리에 마무리

각국, 서울 선언에 서명 

유럽연합과 미국, 캐나다, 프랑스, ​​호주, 일본을 포함한 10개국은 서울 선언에 서명했습니다. 이 선언은 공익을 위한 인공지능 개발에 있어 국가 간 협력을 촉구합니다.

서울 장관 공동 성명에는 인도네시아, 멕시코, 나이지리아, 아랍에미리트, 사우디아라비아 등 27개국이 서명했습니다. 이 성명은 인공지능 개발에 있어 안전을 최우선으로 고려해야 한다는 점을 강조합니다. 설 대통령은 다음과dent 말했습니다

"지난해 11월 영국 블레츨리 파크에서 열린 첫 번째 AI 서밋에서 AI 안전에 대해 논의한 데 이어, 이번 서울 AI 서밋에서는 혁신과 포용성으로 논의 범위를 넓힐 수 있게 되어 매우 기쁩니다."

그는 또한 한국이 인공지능 안전 연구 센터 설립과 네트워크 참여를 통해 "인공지능의 글로벌 안전성을 강화"하기 위해 노력할 것이라고 밝혔습니다. 열 씨는 이번 정상회의가 글로벌 인공지능 표준 및 거버넌스 추진을 위한 노력을 공고히 할 것이라고 말했습니다.

서울 정상회담은 블레츨리 파크의 연장선이다

서울 AI 서밋은 지난해 11월 런던 블레츨리 파크에서 열린 제1회 글로벌 AI 안전 서밋의 후속 행사입니다. 블레츨리 파크 행사는 규모가 훨씬 컸으며, 더 많은 국가들이 보다 안전한 AI 개발을 위한 약속을 했습니다.

이번 정상회담은 안전한 AI 개발에 대한 국제적 의지를 강화하고 혁신과 포용성을 의제에 추가했습니다. 그러나 비평가들은 AI 안전 외의 다른 주제를 추가하면 블레matic 선언의 핵심 의제가 희석될 것이라고 주장합니다. 블레츨리 선언의 핵심은 바로 AI 안전이었기 때문입니다.

"하지만 긍정적인 효과를 얻으려면 인공지능의 안전성을 보장해야 합니다. 그렇기 때문에 오늘 인공지능 안전 연구소 네트워크 구축에 대한 합의가 이루어진 것을 매우 기쁘게 생각합니다." - 리시 수낙. 

규모는 작았지만, 서울 AI 서밋은 AI 안전 연구기관과의 파트너십을 강화하는 플랫폼을 제공했다는 점에서 중요한 의미를 지녔습니다. 캐나다, 한국, 일본은 AI 안전 연구기관 설립을 발표했으며, 이 기관들은 이미 설립된 영국과 미국의 연구기관을 보완하고 AI 안전 분야의 글로벌 역량을 강화할 것입니다. 

기술 기업들이 더 안전한 AI 개발을 약속합니다

세계 16대 AI 기술 기업들이 인공지능을 안전하게 개발하기 위한 새로운 약속에 합의했다. 구글, 오픈AI, 메타를 비롯한 미국 기업들이 이번 미니 서울 서밋에서 자발적인 약속을 했다. 

관련 기사: OpenAI에서 안전이 뒷전으로 밀려났는가?

중국의 Zhipu.ai, 텐센트, UAE의 기술혁신연구소, G42 투자그룹도 "첨단 AI 안전 서약" 문서에 서명했습니다. 한국 측에서는 삼성과 네이버가 자발적 서약에 동의했습니다.

유엔 사무총장 안토니오 구테레스는 개막식 영상 연설에서 다음과 같이 말했습니다

"우리는 삶을 변화시키는 기술 발전과 생명을 위협하는 새로운 위험들을 목격하고 있습니다. 허위 정보부터 대규모 감시, 그리고 치명적인 자율 무기의 가능성까지 말입니다."

유엔 사무총장은 언급하며 , 기술에 대한 보편적인 안전장치와 정기적인 대화의 필요성을 강조했습니다. 또한 많은 기업들이 백악관이 제안한 구속력 없는 안전 서약에 서명하여 자사 제품이 대중에게 안전하도록 보장했습니다.

Cohear의 CEO인 에이든 고메즈에 따르면, AI 업계는 점점 더 시급한 문제에 집중하고 있습니다. 그의 회사 또한 해당 협약에 서명한 기업 중 하나입니다. 고메즈는 "모든 가능한 위험을 지속적으로 고려하는 동시에, 제대로 해결하지 않으면 문제를 야기할 가능성이 가장 높은 부분에 노력을 우선적으로 기울이는 것이 필수적입니다."

아미르 셰이크의 Cryptopolitan 보도