트럼프와 시, AI 안전성 논의… 전문가들, 앤트로픽의 공포 조장 비판

도널드 트럼프 대통령과 시진핑 주석이 베이징에서 기술 협력 회담을 마무리하는 시점에, 한 미국 최고급 인공지능 기업이 중국 AI 성장에 대해 강력한 경고를 발하며, 산업계의 수사학과 정치적 현실 사이에 이례적인 격차를 드러냈다. 

AI 기업 앤트로픽은 목요일, 인간 수준의 지능을 갖춘 기계가 2028년까지 등장할 수 있다는 주장을 담은 연구 논문을 발표했다.

이 기업은 워싱턴에 미국이 고급 AI 시스템 개발에서 중국보다 앞서가도록 요청했다.

2028: 글로벌 AI 리더십을 위한 두 가지 시나리오라는 제목의 이 논문은 AI 시스템이 곧 과학, 공학, 사이버 보안 분야에서 복잡한 작업을 인간 전문가 수준의 능력으로 처리할 수 있게 될 모습을 제시한다.

앤트로픽, AI 리더십을 위한 두 가지 미래 묘사

앤트로픽은 ‘데이터 센터의 천재들’이라는 표현으로 묘사되는 미래를 설명한다.

AI는 과학적 발견, 소프트웨어 개발, 그리고 더 고급화된 AI 생성을 가속화할 수 있다.

앤트로픽은 고급 AI 분야에서 선도적인 국가가 상당한 경제적, 정치적, 군사적 이점을 얻을 것이라고 주장한다.

이 보고서는 트럼프가 베이징에서 시와의 정상회담 첫 일정을 마무리하는 시점에 공개되었다.

앤트로픽은 미국과 파트너 국가들이 수출 규제를 강화하고, 중국에서 더 크고 정교한 시스템에 훈련되는 작은 AI 모델을 학습시키는 ‘증류(distillation)’를 방지할 것을 권고했다.

Claude AI의 개발사 앤트로픽은 과거 중국의 AI 발전에 대해 경고해 왔으며, 미국 칩 수출 제한을 지지해 왔다.

해당 기업에 따르면, 고급 AI 분야에서의 중국 리더십은 인간 단독으로 수행할 수 있는 수준을 넘어선 대규모 억압을 가능하게 함으로써 상당한 글로벌 위협이 될 수 있다.

해당 기업은 독재 정권이 정교한 AI를 대량 감시, 디지털 공격, 인구 통제에 사용하는 것에 대해 우려를 표명했다.

보고서에 따르면, 미국은 현재 고급 컴퓨터 칩 개발과 고급 AI 모델 훈련에 필요한 컴퓨팅 파워를 장악하고 있어 AI 분야에서 우위를 점하고 있다.

그러나 앤트로픽은 반도체 수출 제한의 격차, 해외 컴퓨팅 능력 접근성, AI 모델 가용성 등의 문제가 해결되지 않으면 이 우위가 줄어들 수 있다고 경고했다.

앤트로픽은 2028에 대한 두 가지 가능한 결과를 묘사했다.

하나의 시나리오에서 미국과 동맹국들은 수출 통제를 강화하고 칩 밀매를 단속하며 국내 AI 채택을 가속화하여 민주주의 국가들이 중국보다 12~24개월 앞서갈 수 있도록 돕는다.

이 기업은 이 우위가 안전 및 거버넌스 측면에서 중국 AI 전문가들과 협력할 기회를 창출할 수 있다고 말했다.

두 번째 시나리오에서는 약한 집행력과 해외 인프라에 대한 지속적인 접근이 중국으로 하여금 고급 AI 분야에서의 경쟁력을 유지하도록 한다.

앤트로픽은 중국이 글로벌 AI 분야에서 상당한 영향력을 얻을 수 있다고 경고했다.

비판가와 외교관들의 갈등 프레임워크에 대한 반발

그러나 일부 업계 감시자들은 앤트로픽의 미국이 중국에 대한 우위를 확대해야 한다는 주장을 “무책임”하며 자기 이익에 기반한 것이라고 비판한다.

스탠퍼드 인간중심 AI 연구소의 디지털 펠로우이자 아시아협회 정책 연구소의 수석 펠로우인 알빈 왕 그레이린은 해당 기업이 잠재적 오용에 대한 타당한 우려를 제기했으며 이는 주목받을 가치가 있다고 말했다.

하지만 그는 “이 ‘군비 경쟁’ 프레임워크는 정확히 잘못된 순간에 우리를 잘못된 방향으로 밀어붙인다”고 말했다.

공개적인 논쟁이 벌어지는 동안 두 대통령은 실제로 AI 협력을 논의하고 있었다.

트럼프는 귀국 중인 공군 1호기에서 기자들에게 두 국가가 AI에 대한 “가이드라인”을 함께 마련하는 가능성을 논의했다고 설명하며, 이를 “우리가 항상 이야기하는 표준 가이드라인”이라고 묘사했다.

회담에서는 엔비디아의 H200 칩도 논의되었다.

베이징은 아직 이러한 그래픽 처리 장치의 출고를 승인하지 않았다.

트럼프는 이 주제가 회의에서 “다루어졌다”고 확인하며, “무언가가 일어날 수 있다고 생각한다”고 말했다.

그는 중국이 아직 해당 하드웨어를 구매하지 않은 이유는 “선택적으로 구매하지 않았기 때문”이며, 대신 “자국의 대체재를 개발하려고 하기 때문”이라고 지적했다.

중국 외교부 대변인 궈자쿤은 금요일 “중국은 항상 모든 당사자가 개방적이고 포용적이며 유익하며 모두에게 이로운 방향으로 인공 지능의 발전을 공동으로 촉진할 것을 옹호해 왔다”고 밝혔다.

엔비디아 칩 문제에 대해, 그는 중국이 세부 사항 없이 자신의 입장을 반복적으로 공유했다고 말했다.

베이징은 과거 수출 통제의 오용에 강력히 반대해 왔다.