비탈릭 부테린은 AI 일자리 싸움이 사람들이 초지능을 어떻게 정의하느냐에 달려 있다고 말한다

이더리움 공동 창립자 비탈릭 부테린은 고급 AI에 대한 대중적인 논쟁의 대부분이 양측이 실제로 공유하지 않는 가정들을 가지고 있다는 데서 비롯된다고 주장한다. 

모든 AI 애플리케이션에 대한 부테린의 킬 스위치 제안은 기술 커뮤니티가 AI의 진전 속도와 그것이 노동 시장에 미치는 영향에 대해 또 다른 논쟁을 벌이는 가운데 비판을 받고 있다. 

AI 논쟁을 주도하는 요인은 무엇인가? 

이후 X에서의, 이더리움 공동 창립자 비탈릭 부테린은 'AI 2040' 시나리오 지지자와 그 비판자들 사이의 충돌은 AI 진전이 얼마나 빠르고 중요한지에 달려 있다고 말했다. 

AI 2040 프레임워크는 강력한 조치가 취해지지 않는 한 2040년까지 어떤 형태의 초지능이 나타날 것이라고 가정한다. 반면 비판자들은 AI 2040 지지자들이 인간의 조정 능력을 과소평가하고 자유를 위협한다고 보지만, 초지능 자체를 권력 집중의 위험으로 보지 않는다.

부테린은 어떤 시나리오가 현실에 더 가까운지 알지 못한다고 인정했다. “만약 내가 (현재 스타일의) AI가 정상적인 기술이라고 확신한다면, 나는 반대 진영에 있을 것이다. 만약 초지능이 2030년에 기본적으로 도래할 것이라고 확신한다면, 나는 AI 2040 진영에 더 가까울 것”이라고 그는 썼다. 

하지만 공동 창립자는 위험이 심각해지면 AI 개발을 늦추거나 중단하는 데 대해 열린 태도를 유지하고 있다.

이 논쟁에는 AI 연구자 얀 르쿤, 저자 대니얼 제프리, 정책 분석가 아담 티에어가 끌어들여졌다. 

메타(META)의 수석 AI 과학자 야닉 르쿤은 AI 안전성이 근본적으로 엔지니어링 문제이며 제트 엔진의 신뢰성을 확보한 것처럼 신중하고 반복적인 설계를 통해 해결할 수 있다고 주장한다. 

르쿤은 “항공기를 완전히 안전하게 만드는 데 50년이 걸렸다”며, 인간 수준의 지능을 갖춘 시스템을 아직 만들지 못한 시점에서 AI에 대한 공포는 조급하다고 지적했다. 그는 대규모 언어 모델이 추론과 인과 관계 이해력이 부족한 “자동 완성 기계”에 불과하다는 점을 일관되게 강조해 왔다. 

@hhawk로 게시한 해리 호크는 야닉 르쿤의 견해에 동의하며, 미래 AI 시스템이 항공기처럼 안전성을 위해 설계될 것이라고 믿는다. 또한 AI와 로봇이 모든 일을 대신하여 일자리가 사라질 것이라고 생각하지 않는다고 밝혔다.

부틴은 이러한 관점이 “AI가 단독으로 모든 작업을 수행할 수 있을 만큼 강력한 AI”, 즉 ASI(Artificial Super Intelligence)의 존재를 부정한다고 반박했다.

강력한 AI 시스템을 어떻게 통제할 수 있을까?

부틴은 광범위한 규칙을 통해 모든 사람이 자신이 구축하는 내용을 공개하도록 강제하고, 위험 상황이 발생하면 대규모 AI 훈련을 늦추거나 중단할 수 있는 비상 정지 스위치를 포함하는 “플랜 A”를 제안했다.

그는 어떤 AI 사용은 허용되고 어떤 것은 허용되지 않는지를 선택할 수 있다고 생각하는 “순진한 선의의 지식인들”이 이 계획에 반발할 것이라고 덧붙였다. 

부틴의 스레드 중 일부를 촉발한 로미오 디언은 이 접근 방식을 “꽤 합리적”이라고 평가했지만, 자신의 세계관에서는 그 발동 시기가 너무 늦을 것이라고 말했다. 또한 그는 비판자들이 플랜 A에 대해 제기하는 “심각한 단점”을 이해하지 못한다고 덧붙였다.

부틴은 완벽한 해결책이 없다고 인정했다. “ASI 전환을 다루는 순진하지 않은 계획은 전혀 보이지 않는다”며 “아마도 인류는 순진함과 순진함의 제곱 사이에서 선택해야 할 운명일지도 모른다”고 썼다.

‘AI 2040: 플랜 A’ 보고서는 전 오픈AI 직원인 다니엘 코카틀로의 AI 퓨처스 프로젝트에서 나왔다. 

보고서는 미국과 중국 초지능의 등장을 2040년까지 지연시키기 위해 협력해야 한다고 제안한다. 양국은 모든 연구를 공개적으로 공유해야 하며, 필요시 상호간의 컴퓨팅 파워를 파괴할 수 있는 원자력 전쟁 논리에 기반한 시스템도 포함된다. 이를 “상호 보장 컴퓨팅 파괴(Mutually Assured Compute Destruction)”라고 부른다.

AI 연구자 리처드 응고(Richard Ngo)는 이 보고서가 AI의 조기 도래를 지나치게 우려하고 있으며, 각국 내부에서 AI가 초래할 수 있는 정치적 혼란에 대해 충분히 고려하지 않았다고 지적했다.

오픈 소스 모델이 해결책이 될 수 있을까?

전체 논쟁의 배경에는 오픈 소스 모델의 지위가 있다. 르쿤은 7월 9일 AI의 가장 큰 위험은 소수의 우위 기업에 “권력이 집중”되는 데 있다고 썼다. 또한 “AI 주권的唯一한 해결책은 오픈 소스 파운데이션 모델”이라고 명시했다. 그의 게시물은 2,900개 이상의 좋아요와 430회 이상의 리트윗을 기록했다.

저자 대니얼 제프리스는 같은 날 글을 통해오픈 소스 모델이 미국 기술의 기반을 이루고 있으며, 이를 제한하려는 “단견적인 안전주의자와 강경파”에 경고했다. 

R 스트리트 연구소의 시니어 펠로우이자 주요 하원 AI 태스크포스 보고서 제출 저자인 정책 분석가 아담 티어리는 미국 AI 거버넌스가 “중요한 갈림길”에 서 있다고 경고했다. 

그는 현재 의회가 AI를 검토하는 과정이 혼란스럽고 무작위적이며 비공개적이라고 지적했다. 그는 이러한 비공식적 시스템이 고착화되고 진전이 특별 승인 뒤에 막히면 오픈 소스 AI를 파괴할 것이라고 경고했다. 무거운 규제 대신, 티어리는 사람들이 자유롭게 AI를 구축하고 출시할 수 있도록 하는 “무허가 혁신(Permissionless Innovation)” 접근 방식을 제안한다. 그는 기존 법률을 활용해 필요한 경우 해를 입힌 자를 처벌하고, 새로운 AI를 위한 테스트 존 설정, 일부 모델의 오픈 유지 요구, AI 연구에 대한 자금 지원 확대 등을 지지한다. 

이더리움 공동 창립자 비탈릭 부틴은 고급 AI에 대한 대중의 논쟁이 양측이 실제로 공유하지 않는 가정들을 가지고 있다는 데서 비롯된다고 주장한다. 부틴이 모든 AI 애플리케이션에 대한 킬 스위치(비상 정지 장치)를 제안한 것은, 기술 커뮤니티가 AI의 발전 속도와 그 영향에 대해 또 다른 논쟁을 벌이는 가운데 비판을 받고 있다.