Bletchley AI 정상회의, 위협과 경제 기회 균형

세계 정부들은 11월 Bletchley Park에서 인공지능이 제기하는 다각적인 도전 과제에 대응하기 위한 AI 정상회의에 모였습니다. 2023년 11월 1-2일에 열린 이 행사는 시작 전부터 상당한 관심과 추측을 불러일으켰습니다. 정상회의의 초점은 주로 고급 AI와 관련된 존재론적 위험을 완화하는 데 있었지만, 경제 기회와 규제 고려 사항에도 깊게 파고들었습니다.

Bletchley AI 정상회의의 긍정적인 결과

초기에는 참석자 확인에 대한 회의감과 주요 인사의 부재에도 불구하고, Bletchley Park의 AI 안전 정상회의는 기대치를 초과했습니다. 중국 중심의 보수파와 미국 정치인을 포함한 비평가들은 행사에 중국 대표를 포함하는 것을 의문시했습니다. 또한 영국이 AI 규제 분야에서 글로벌 노력을 주도하려는 야심 찬 시도에 대한 의구심이 제기되었습니다.

그러나 정상회의는 영국에게 외교적 성공으로 입증되었습니다. 오픈AI의 샘 알트만과 미국의 카마라 해리스 부통령과 같은 저명 인사들이 참석한 주목할 만한 참석자 명단을 자랑했습니다. 정상회의의 하이라이트는 28개국과 유럽연합이 참여하여 AI의 존재론적 위험 해결을 위해 협력한다는 광범위한 약속인 Bletchley 선언이었습니다. 특히 미국과 중국, 그리고 영국, 인도, 호주가 지지를 약속했습니다.

정부의 AI 모델 접근

정상회담 동안 리시 수낙 총리는 AI 기업들이 안전 평가를 위해 정부에 모델에 대한 조기 접근을 허용하기로 합의했다는 중대한 발전을 발표했습니다. 그러나 이 발표는 구체적인 내용이 부족했으며 6 월에 이루어진 이전 선언과 유사한 점이 있었습니다. 또한 영국 프런티어 AI 태스크포스가 안전을 감독하는 상설 기구로 설립된 점도 공개되었습니다.

미국의 AI 행정 명령

Bletchley 정상회의 며칠 전, 미국의 카마라 해리스 부통령은 미국이 AI 기술 리더십을 유지하겠다는 의지를 강조했습니다. 동시에 조 바이든 대통령은 세계 최대 AI 기업들의 포괄적인 규제를 목표로 하는 기다려지던 행정 명령을 발령했습니다. 

행정 명령은 주로 프라이버시, 경쟁, 알고리즘 차별을 포함한 알려진 식별 가능한 단기 AI 위험에 대응하는 데 중점을 둡니다. 이는 미국인의 시민권과 자유를 보호하는 것을 최우선으로 합니다. 이 명령은 주택, 건강, 국가 안보 등의 영역을 감독하는 25개 연방 기관 및 부처에 AI 사용 및 감독을 위한 기준과 규정을 수립하도록 의무화합니다. 또한, 가장 강력한 AI 모델의 개발 기업들에게 새로운 보고 및 테스트 요구 사항을 도입하고, 국가 안보 위협을 초래할 수 있는 모델의 기업들에게 안전 조치를 공유하도록 강제합니다.

글로벌 AI 규제 논쟁

유럽연합은 연내 야심 찬 AI 규제 입법을 발표할 것으로 예상됩니다. 한편, 선진국 그룹인 G7은 AI 기업들을 위한 별도의 행동 강령을 마련 중입니다. 중국도 이와 관련하여 자체적인 이니셔티브를 도입했습니다.

주요 논쟁은 AI의 어떤 측면이 규제가 필요하며 누가 이 책임을 져야 하는지에 관한 것입니다. 기술 기업들은 일반적으로 하위 모델보다는 가장 고급 AI 응용 프로그램에 초점을 맞춘 제한된 규제를 옹호합니다. 그러나 빠른 기술 발전으로 인해 이러한 입장은 유지하기 increasingly 어려워지고 있습니다.

미국과 영국은 기존 정부 기관이 AI 규제를 감독할 수 있다고 믿습니다. 그러나 주정부 규제 기관의 이력에 대한 우려가 있는 가운데, DeepMind의 공동 창립자이자 AI 업계의 주요 인물인 Mustafa Suleyman은 기후 변화에 관한 정부 간 패널(IPCC)과 유사한 글로벌 거버넌스 체제 설립을 제안하여 AI 기업의 작업 투명성을 높일 것을 제안했습니다. Suleyman은 심지어 향후 5년 내에 차세대 AI 시스템의 훈련을 일시 중단할 가능성까지 제시했습니다.

오픈소스 대 클로즈드소스 AI

AI 연구에 있어 오픈소스와 클로즈드소스 접근 방식에 대한 논쟁도 대두되었습니다. 오픈소스 지지자들은 수익 추구형 기업들의 AI 연구 지배가 바람직하지 않은 결과를 초래할 수 있으며, 모델을 오픈소스로 공개하면 안전 연구가 가속화될 수 있다고 주장합니다. 반면, 클로즈드소스 모델 지지자들은 고급 AI와 관련된 위험이 너무 커서 강력한 모델의 소스 코드를 자유롭게 배포하는 것을 허용해서는 안 된다고 주장합니다.

AI 위험과 경제 혜택의 균형

영국을 포함한 정부들은 AI의 위험을 해결하는 중요성을 인정하면서도 그 상업적 기회에 열려 있는 delicate한 균형 잡기를 수행하고 있습니다. AI는 증기력, 전기, 인터넷과 같은 과거 혁신에 비유할 수 있는 광범위한 응용 프로그램을 갖춘 범용 기술이 될 것으로 예상됩니다. 이 기술은 생산성과 경제 성장에 상당한 개선을 가져올 것으로 기대됩니다.

Capital Economics의 Neil Shearing은 정부들이 AI의 잠재적 경제 이익을 어떻게 활용할 계획인지에 대해 더 많은 이야기를 들어야 할 필요성을 강조합니다. AI 위험을 해결하는 것이 중요하지만, 그것이 약속하는 경제적 혜택은 간과되어서는 안 됩니다.

Bletchley Park의 AI 정상회의는 AI 규제와 안전에 대한 글로벌 논의에서 중요한 순간을 표시했습니다. 정부들이 앞으로의 길을 탐색함에 있어, AI의 잠재적 위협을 해결하고 그 막대한 경제 기회를 활용하는 사이의 균형을 맞춰야 합니다.