서울 AI 정상회의에서 안전이 최우선 의제가 될 것

한국과 영국의 정부들은 이번 주 국제 AI 정상회의에서 기술 기업들이 인공지능 안전 감독 문제를 해결하도록 촉구할 예정입니다.

이 회의는 작년 영국 블레츨리 파크에서 열린 최초의 글로벌 AI 안전 정상회의의 후속 조치로, 여러 정부가 AI 위험에 대한 우려를 표명했습니다. AI 기업들도 그곳에 참석했는데, 그들이 개발 중인 기술이 이러한 위험을 초래하기 때문입니다.

사회 여러 측면을 혁신할 잠재력을 가진 빠르게 발전하는 기술에 대한 국제적인 안전장치 마련 시도가 numerous(다수) 있는 가운데, 서울 정상회의는 일상 생활에 대한 새로운 위험에 대한 우려를 불러일으켰습니다. 

“글로벌 AI 거버넌스를 형성하기 위한 긍정적인 노력이 있었지만, 여전히 상당한 격차가 남아 있습니다.”

11월 영국 정상회의에는 연구원, 정부 관리, 기술 임원, 시민 사회 조직 대표들이 모였으며, 많은 이들이 인공지능에 대해 서로 다른 의견을 가지고 있었습니다. 회의는 블레츨리에서 비공개로 진행되었습니다. 영국 총리 리시 수낙을 비롯한 정치인들 외에도, 오픈AI의 샘 알트만 CEO와 테슬라의 일론 머스크 CEO 등 많은 이들이 참석했습니다.

AI 정상회의에서 안전이 우선순위일 것

화요일에 시작되는 AI 서울 정상회의에서 안전이 다시 한번 최우선 순위가 될 것입니다. 영국과 한국 정부는 5월 21~22일 이 회의를 공동 주최합니다.

마이크로소프트, 앤트로픽, 구글 딥마인드, ChatGPT 제작사 오픈AI, 그리고 프랑스 AI 스타트업 미스트랄과 같은 주요 AI 기업들이 대표단을 보낼 예정입니다.

영국의 리시 수낙 총리와 한국의 윤석열 대통령도 월요일 INews에 게재된 공동 기사를 작성했습니다. 그들은 이 기술의 잠재력을 인정하며 안전을 보장할 의사를 표명했습니다.

“우리는 함께 이 기술의 잠재력을 활용하여 세상을 더 나은 방향으로 변화시키기로 결의했습니다.”

또한 그들은 새로운 기술이 새로운 위험을 가져오듯, AI도 마찬가지라고 강조했습니다. 그들은 악의적인 행위자들이 고의로 악행을 위해 AI를 활용하는 사례를 지적했습니다.

최근 오픈AI는 공동 설립자 일야 수트스케버와 일부 핵심 직원들이 퇴사하면서 '슈퍼얼라인먼트(Superalignment)'라는 이름의 안전 팀을 해체했습니다. 이 개발 소식은 AI 위험 완화에 중점을 둔 서울 정상회의 며칠 전, 세계 최고의 AI 회사로부터 나왔습니다.

또한 읽기: 블레츨리 파크 정상회의에서 AI 위험 해결을 위한 국제 협력 촉구

또 다른 developments(개발)으로, 앤트로픽은 오늘 책임 있는 확장 정책에 대한 보고서를 발표했으며, 이 보고서는 회사에 따르면 좋은 결과를 보여줬습니다. 그러나 우리는 이러한 결과를 확인할 수 없습니다. 우리는 이러한 developments에 대해 논평할 입장이 아니지만, 이는 일부 생각할 거리를 제공합니다.

혁신은 계속되어야 합니다

2022년 출시 직후 ChatGPT가 급속히 인기를 끌자, 전 세계의 기술 기업들은 자체 생성형 AI 모델을 구축하기 위해 수십억 달러를 투자하기 시작했습니다. 수낙과 윤 대통령은 매일 새로운 AI 모델이 출시되는 빠른 혁신 속도를 언급하며 이렇게 말했습니다.

“정부는 수십억 달러를 투자하고, 세계적 수준의 대학에서 최첨단 연구를 강화하며, 차기 대박 아이디어를 생산할 수 있는 스타트업에 대한 과도한 규제를 피함으로써 이러한 혁신을 육성할 수 있습니다.”

생성형 AI 모델 지지자들은 이 기술을 단순한 신호에 텍스트, 사진, 음악, 심지어 비디오까지 생성할 수 있는 기술로, 전 세계 사람들의 삶과 비즈니스를 향상시킬 돌파구로 찬사했습니다.

공주의 관심을 끈 이러한 제품 중 일부에는 내장된 편향이 있어 우려의 대상이 되고 있습니다. 

또한 읽기: Fidic의 글로벌 리더십 포럼에서 AI 전문가들은 AI와의 협력이 필수적이라고 말합니다

그리고 이것들뿐만 아니라, 이러한 제품 뒤에 작동하는 기술인 대규모 언어 모델(LLM)도 다양한 분야의 많은 솔루션 뒤에 기반 기술이 되었습니다. 자율 주행 차량부터 의료 솔루션에 이르기까지 많은 것이 생성형 AI LLM에 의존하여 기능합니다.

여전히 우려스러운 목소리가 있습니다

수많은 사람들이 AI의 발전과 적용을 통제하기 위한 국제 가이드라인을 요구했습니다. 예를 들어, 뉴욕 기반의 'Ban the Scan' 운동은 정부 및 민간 차원에서 얼굴 인식 사용 중단을 요구하고 있습니다. 

그들은 이러한 기술이 개인 자유를 침해하고 높은 오검출률을 가진다고 주장합니다. 일렉트로닉 프런티어 재단(Electronic Frontier Foundation)의 한 페이지에는 다음과 같이 적혀 있습니다.

“얼굴 인식은 사생활, 인종 정의, 표현의 자유, 정보 보안에 대한 위협입니다. 얼굴 스캐닝 및 실시간 추적을 포함한 모든 형태의 얼굴 인식은 시민의 자유와 개인 사생활에 위협을 가합니다.”

그들만이 아닙니다. 인권 옹호자들, 정부, 비평가들은 AI가 많은 방식으로 남용될 수 있다고 경고했습니다. 예를 들어, 비국가 행위자들은 허위 뉴스 보고서나 선출된 공무원들의 이른바 '딥페이크' 이미지와 동영상을 사용하여 유권자에게 영향을 미치기 위해 이를 사용할 수 있습니다. 또 다른 심화되는 우려는 국가들이 자국의 이익을 위해 악성 요소들을 지지한다는 보고가 나오고 있다는 점입니다.

“우리는 또한 하향 경쟁을 피할 글로벌 표준을 형성하기 위해 다음 단계를 취할 것입니다.”

이 듀오 기사는 위의 진술을 언급하고, 더 열린 포럼에서 AI에 대한 국제 규범을 논의하는 것이 도움이 될 것이라고 강조했습니다. 동시에 일부 한국 시민권 단체들은 조직자들이 개발도상국을 충분히 초대하지 않았다고 비판했습니다.

프랑스는 또한 세계 최대 럭셔리 그룹인 LVMH의 후원을 받아 이번 주 '비바 테크놀로지(Viva Technology)' 컨퍼런스를 개최합니다. 지난 1년 동안 프랑스는 유럽의 AI 챔피언으로 자리매김하기 위해 AI 스타트업을 유치하려고 노력해 왔습니다.

Aamir Sheikh가 Cryptopolitan에서 보도