서울 AI 서밋에서 안전이 최우선 의제가 될 것입니다

한국과 영국 정부는 이번 주 열리는 국제 인공지능 정상회의에서 기술 기업들에게 인공지능 안전 감독 문제를 해결할 것을 촉구할 예정이다.

이번 회의는 작년 영국 블레츨리 파크에서 열린 최초의 글로벌 AI 안전 정상회의의 후속 조치로, 당시 여러 정부가 AI 위험에 대한 우려를 표명했습니다. AI 기업들도 참석했는데, 그들이 개발하는 기술이 이러한 위험을 내포하고 있기 때문입니다.

사회의 여러 측면을 혁신할 잠재력을 지닌 급속도로 발전하는 기술에 대한 안전장치를 마련하려는 수많은 국제적인 시도 속에서, 서울에서 열린 이번 정상회담은 일상생활에 나타날 수 있는 새로운 위험에 대한 우려를 불러일으켰습니다. 

"글로벌 AI 거버넌스를 형성하기 위한 긍정적인 노력이 이루어졌지만, 여전히 상당한 격차가 남아 있습니다."

지난 11월 영국에서 열린 정상회의에는 연구원, 정부 관계자, 기술 기업 임원, 시민 사회 단체 대표 등 인공지능에 대해 다양한 의견을 가진 사람들이 한자리에 모였습니다. 블레츨리 파크에서 비공개로 진행된 이 회의에는 리시 수낙 영국 총리를 비롯해 오픈AI와 테슬라의 CEO인 샘 알트만, 일론 머스크 등 많은 정치인들이 참석했습니다.

AI 서밋에서 안전이 최우선 과제가 될 것입니다

화요일에 개막하는 AI 서울 서밋에서 안전은 다시 한번 최우선 과제로 다뤄질 것입니다. 영국과 한국 정부는 5월 21일부터 22일까지 열리는 이번 회의를 공동 주최합니다.

마이크로소프트, 앤트로픽, 구글 딥마인드, ChatGPT 개발사인 오픈AI, 그리고 프랑스의 AI 스타트업인 미스트랄 등 주요 AI 기업들이 대표단을 파견할 예정이다.

리시 수낙 영국 총리와dent 윤석열 한국 대통령도 월요일 아이뉴스에 공동 기고문을 게재했다. 두 정상은 . 기술의 잠재력을 인정하면서도 안전을 확보하겠다는 의지를 표명하며 다음과 같이 밝혔다

“우리는 함께 이 기술의 잠재력을 최대한 활용하여 세상을 더 나은 방향으로 변화시키기로 결심했습니다.”

그들은 또한 새로운 기술이 새로운 위험을 가져오듯이 인공지능 역시 마찬가지라고 강조했습니다. 그들은 악의적인 행위자들이 인공지능을 악용하여 나쁜 짓을 저지르는 사례를 지적했습니다.

최근 오픈아이디어는 공동 창립자인 일리야 수츠케버를 비롯한 핵심 직원들이 회사를 떠나면서 '슈퍼얼라인먼트'라는 안전팀을 해체했습니다. 이러한 움직임은 AI 위험 완화에 주력해 온 세계 최고의 AI 기업인 오픈아이디어가 서울 정상회의를 불과 며칠 앞두고 내놓은 것입니다.

관련 기사: 블레츨리 파크 정상회담에서 인공지능 위험 해결을 위한 국제 협력 촉구

한편, 앤트로픽은 오늘 책임 있는 규모 확장 정책에 대한 보고서를 발표했는데, 회사 측에 따르면 이 정책들이 긍정적인 결과를 보였다고 합니다. 하지만 저희는 이러한 결과를 확인할 수는 없습니다. 저희는 이러한 사안에 대해 논평할 입장은 아니지만, 이는 여러 가지 생각을 해볼 만한 거리를 제공합니다.

혁신은 계속되어야 한다

2022년 출시 직후 ChatGPT가 폭발적인 인기를 얻으면서 전 세계 기술 기업들은 생성형 AI 모델 개발에 수십억 달러를 투자하기 시작했습니다. 수낙과 열은 매일 새로운 AI 모델이 출시되는 빠른 속도의 혁신에 대해 언급하며 다음과 같이 말했습니다

"정부는 수십억 달러를 투자하고, 세계적 수준의 대학에서 최첨단 연구를 장려하며, 차세대 혁신 아이디어를 창출할 수 있는 스타트업에 과도한 규제를 가하지 않음으로써 이러한 혁신을 촉진할 수 있습니다."

생성형 AI 모델의 지지자들은 이 기술이 간단한 신호에 반응하여 텍스트, 사진, 음악, 심지어 비디오까지 생성할 수 있기 때문에 전 세계 사람들의 삶과 사업을 향상시킬 획기적인 기술이라고 극찬해 왔습니다.

대중의 관심을 끈 이러한 제품들 중 일부는 내재된 편견을 가지고 있어 우려를 낳고 있습니다. 

관련 기사: FIDIC 글로벌 리더십 포럼에서 AI 전문가들이 강조한 "AI와의 협업은 필수적"

뿐만 아니라, 이러한 제품들의 기반 기술인 대규모 언어 모델(LLM)은 다양한 분야의 여러 솔루션의 핵심 기술이 되었습니다. 자율 주행 차량부터 의료 솔루션에 이르기까지, 많은 솔루션이 생성형 AI LLM을 활용하여 작동합니다.

여전히 우려의 목소리가 나오고 있습니다

많은 사람들이 인공지능의 발전과 활용을 규제하기 위한 국제적인 가이드라인을 요구해 왔습니다. 예를 들어, 뉴욕에 본부를 둔 'Ban the Scan'이라는 단체는 정부 및 민간 부문에서 안면 인식 기술 사용을 중단할 것을 요구하고 있습니다. 

그들은 이러한 기술들이 개인의 자유를 침해하고 오탐률이 높다고 주장합니다.tron프론티어 재단의 한 페이지에는 다음과 같이 적혀 있습니다

“얼굴 인식 기술은 사생활, 인종 정의, 표현의 자유, 정보 보안에 대한 위협입니다. 얼굴 스캔 및 실시간 trac을 포함한 모든 형태의 얼굴 인식 기술은 시민의 자유와 개인의 사생활을 위협합니다.”

그들만이 그런 것은 아닙니다. 인권 옹호자, 정부, 그리고 비판론자들은 인공지능이 다양한 방식으로 악용될 수 있다고 경고해 왔습니다. 예를 들어, 비국가 행위자들은 인공지능을 이용해 허위 뉴스 보도나 선출직 공무원의 이른바 '딥페이크' 이미지와 영상을 유권자들에게 조작하여 영향을 미칠 수 있습니다. 또한, 국가가 자국의 이익을 위해 불량 세력을 지원한다는 보고가 나오면서 우려가 더욱 커지고 있습니다.

"우리는 또한 최저가 경쟁을 피할 수 있는 글로벌 표준을 수립하기 위한 다음 단계를 밟아 나갈 것입니다."

두 사람이 작성한 기사에서는 위 내용을 언급하며 보다 개방적인 포럼에서 인공지능에 대한 국제적 규범을 논의하는 것이 도움이 될 것이라고 강조했습니다. 한편, 일부 한국 시민단체들은 주최 측이 개발도상국을 충분히 초청하지 않았다고 비판했습니다.

프랑스는 세계 최대 명품 그룹인 LVMH의 후원을 받아 이번 주 "비바 테크놀로지(Viva Technology)" 컨퍼런스를 개최할 예정입니다. 프랑스는 지난 1년 동안 유럽 AI 강국으로 자리매김하기 위해 AI 스타트업trac에 힘써왔습니다.

아미르 셰이크의 Cryptopolitan 보도