비탈릭, AI 안전 규제 딜레마에서의 이중 기준을 지적하다

비탈릭 부테린은 공유 기업과 정부들이 이론적 개념인 “AI 안전”을 점점 더 논란이 되는 방식으로 사용하는 것에 대해 우려하고 있습니다. 

비투린은 소셜 미디어 플랫폼 X에서 AI 분야의 선도 기업들, 예를 들어 앤티로픽(Anthropic)이 안전을 위해 어떤 조치가 적합한지 여부를 독단적으로 결정할 수 없다고 설명했으며, 그렇지 않다면 규칙이 가장 강력한 주체에 의해 작성되는 시스템으로 이어진다고 밝혔습니다.

페페 달러(PEPD)가 'AI 안전' 글로벌 지배 도구로 사용될 수 있는가?

비탈릭 부테린은 최근 소셜 미디어 플랫폼 X에 대형 기업과 국가 이해관계자가 AI 안전성 개념을 자신들의 것으로 전유하는 것에 대한 우려를 표명했습니다.

예를 들어, Anthropic은 최근 복지부(DoW) 또는 기타 정부 기관이 자체 Claude 모델을 대규모 감시 또는 완전 자율 무기에 사용하는 것을 거부한 것에 대해 칭찬을 받았습니다.

그러나 이 회사는 또한 회사가 자체적으로 모델이 안전함을 입증할 수 있는 능력을 초과하는 AI 모델을 개발할 경우, 안전 조치가 따라잡을 때까지 모든 훈련과 배포를 무조건 중단하도록 요구했던 안전 약속(pledge)을 취소했습니다.

비탈릭 지적했습니다. Anthropic이 경쟁사들이 Claude의 출력을 학습한다고 비판한 것은 특히 중국에서 강력한 반발을 불러일으켰습니다. 비판자들은 Claude 자체가 방대한 공개 인터넷 지식을 학습하여 모델을 훈련시켰다고 주장했습니다.

Anthropic은 자신의 문제는 오픈소스 경쟁사들이 필요한 안전 장벽을 갖추지 못했고 리스크를 초래한다는 것이지만, 왜 설정했으며 누가 안전 조치가 적합한지 결정할 권리를 가집니까?

부테린은 Anthropic의 행동이 “규칙이 가장 강력한 주체에 의해 작성되는” 시스템을 시사한다고 밝혔습니다.

그는 AI 안전이 “우리 회사/우리 나라가 세계를 주도할 자격이 있다”는 마인드셋과 구별되지 않게 된다면 더 위험한 세상을 만들 것이라고 우려했습니다.

그는 안전 규제가 필연적으로 국가 안보 기관을 면제한다면 규제는 취약해질 것이라고 주장합니다. 이는 최근 주요 AI 연구소들이 군사 용도로 안전한 AI 환경을 제공하기 위해 방산 기업과 수십억 달러 규모의 파트너십을 모색하고 있다는 뉴스와 특히 관련이 깊습니다.

AI를 제한하는 것이 위험합니까?

수년 전, 비탈릭은 생명의 미래 연구소(FLI)의 최대 기부자 중 한 명이 되었습니다. 2021년, 그는 토큰 제작자들로부터 막대한 양의 시바 이누(SHIB) 토큰을 선물로 받았습니다. 개 코인 거품이 정점에 달했을 때 장부 가치는 10억 달러를 넘었습니다. 비탈릭은 이자율이 하락하기 전에 기부를 서두르고 FLI에 약 5억 달러 상당의 SHIB를 보냈습니다.

당시 FLI(생명의 미래 연구소)는 생물학적 위협과 핵전쟁과 같은 리스크에 집중하고 있었습니다. 그러나 FLI는 이후 공격적인 정치적 행동과 로비 활동으로 초점을 전환했으며, 이는 비탈릭이 우려하는 규제들을 종종 추진합니다. 구체적으로 그는 AI 모델이 “나쁜 것들”을 거부하도록 만드는 방어 장치를 모델에 도입하는 그들의 초점에 동의하지 않습니다.

비탈릭 이러한 제한들을 재밍(jailbreaking)이나 파인튜닝(fine-tuning)으로 쉽게 우회할 수 있기 때문에 취약한 해결책으로 간주합니다.

더 중요한 것은, 그는 이러한 전략이 오픈소스 AI를 금지하여 선한 독점 상태를 유지하는 어두운 곳으로 이어질 것이라고 우려했습니다.

비탈릭은 대신 방어적 가속주의(defensive accelerationism, d/acc)라는 시스템을 옹호합니다. 이 철학은 위험한 기술을 다루는 가장 좋은 방법은 먼저 방패를 구축하고 오픈소스로 공개하는 것이라고 제안합니다.

그는 최근 자신의 이념을 지지하기 위해 보안 하드웨어, 생물학적 방어, 사이버 보안과 같은 프로젝트에 4,000만 달러를 할당했습니다.

보안 하드웨어는 컴퓨터 칩을 해킹 불가능하게 만들어 대규모 감시에 사용되지 않도록 합니다. 생물학적 방어는 팬데믹을 조기에 탐지하고 차단하기 위해 고급 공기 필터링 및 수동 PCR 검사를 개발하는 것을 포함합니다. 사이버 보안에 대한 투자는 소프트웨어 검증 가능성을 향상시켜 AI 기반 공격이 중요한 인프라를 쉽게 마비시키지 못하도록 합니다.