미-중 긴장 고조 속 오픈AI, 글로벌 AI 안전 프레임워크 촉구

오픈AI는 AI가 원자력 에너지와 동일한 규제가 필요하며, 이를 처리할 글로벌 규제 기관 설립을 미국이 주도하기를 원한다고 밝혔다. 

크립토폴리탄의 보도에 따르면, 이는 트럼프 대통령이 9년 만에 첫 미국-중국 국가 방문을 위해 베이징을 방문하는 시점과 맞물려 발생했으며, 이 기간 동안 AI 정책이 의제에 오를 것으로 예상되었다.

오픈AI의 글로벌 어페어스 부사장인 크리스 레인(Chris Lehane)에 따르면, 트럼프와 시가 같은 자리에 있는 것은 두 국가가 AI를 위해 지속적인 무언가를 구축할 수 있는 드문 기회다.

“AI는 일부 수준에서 prevailing(우세한) 또는 전통적인 무역 유형의 문제를 초월합니다. 전 세계적으로, 중국을 포함하여 국가들이 잠재적으로 참여할 수 있는 무언가를 글로벌 차원에서 구축하기 시작할 기회가 있습니다,” 크리스 레인은 브리핑 중 말했다.

오픈AI란 무엇이며, 왜 그 의견이 글로벌 정책에서 중요한가?

오픈AI는 개발한 미국 기업으로 ChatGPT, 매일 수억 명의 사람들이 사용하는 인기 있는 AI 어시스턴트/챗봇이다.

이 회사는 강력한 AI 시스템에 관한 주요 논쟁에 항상 참여해 왔다. CEO 샘 알트먼은 일반적으로 국가 원수들을 만나 AI를 논의하고 의회에서 증언하며, 회사가 글로벌 AI 정책에 상당한 영향력을 행사하도록 한다.

오픈AI는 테슬라 CEO 일론 머스크가 2024년 이 회사를 고소한 후 별도의 법적 분쟁에 처해 있다. 머스크는 오픈AI의 초기 창립자 중 한 명이며, 샘 알트먼과 다른 임원들이 회사의 비영리 사명에 반하여 이를 영리 조직으로 만들었다고 주장한다. 

재판은 진행 중이지만, 이번 주 더 큰 이야기는 베이징에서 일어나고 있다.

오픈AI는 무엇을 제안했으며, IAEA 비교는 무엇인가?

오픈AI의 글로벌 어페어스 부사장인 크리스 레인은 두 가지를 연결하여 새로운 무언가를 만들자고 제안했다.

그는 미국 상무부 산하 AI 표준 및 혁신 센터 와 AI 안전 연구소들이 모여 글로벌 네트워크를 구축하기를 원한다. 그는 국가들이 핵 규제 기관들을 하나의 전체 기구에 연결한 방법을 보여주는 예로 국제원자력기구 (IAEA)를 사용했다. 

미국 상무부 산하 AI 표준 및 혁신 센터는 AI 시스템에 대한 기술 표준을 생성하는 정부 부서다. 

동시에, 국가들은 전 세계적으로 AI 연구소를 설립하고 있다. 예를 들어 영국은 하나를 보유하고 있으며, EU는 프레임워크를 개발 중이고, 여러 아시아 정부들도 유사한 기구를 구축하고 있다. 

레인은 AI를 위한 통합 기구가 공격에 덜 취약하고 더 안전하며 회복력 있는 시스템을 구축하는 데 도움이 될 것이라고 말했다. 그는 또한 미국 정부가 연구자들이 가장 강력한 AI 모델을 배포하기 전에 테스트하도록 의무화하기를 원한다. 

미토스(Mythos) 모델이란 무엇이며, 왜 워싱턴과 베이징을 모두 흔들고 있는가?

미토스 는 운영 체제 및 기타 소프트웨어에서 '수천' 개의 주요 취약점을 발견한 새로운 강력한 AI 모델이다. 구글과 아마존의 지원을 받는 AI 안전 기업인 앤트로픽(Anthropic)이 미토스를 개발했다.

미토스가 할 수 있는 일의 규모는 발표 후 은행과 정부들이 보안 방어 조치를 급히 수정하면서 세상을 충격에 빠뜨렸다. 백악관 관리들은 미토스 같은 모델들이 중국과의 소통이 그 어느 때보다 중요하게 만들었다고 인정했다. 

중국은 미토스 미리보기에 대한 초기 접근에서 차단되어, 이 AI 모델을 사용한 공격으로부터 국가의 개발자와 정부를 방어할 능력에 대한 우려를 제기했다. 

시장 인텔리전스 기업 IDC 중국 은 중국을 미토스에서 배제하는 것이 중국과 서구 간 AI 방어 능력에서 '세대를 초월한 격차'를 만들 수 있다고 경고했다. 

에 따르면 연구자들, 공격자들은 고급 AI를 사용하여 생물무기를 설계하거나 금융 충동을 유발하거나 인간의 통제 없이 자율적으로 행동할 수 있다. 가장 무서운 점은 AI가 강력하고 빠르며 잘못된 방향으로 향하기만 하면 이러한 모든 일을 할 수 있다는 것이다. 

트럼프-시 회담에서는 무엇이 발생했으며, 무엇을 논의했는가?

중국을 방문한 미국 대표단에는 엔비디아 CEO 젠슨 황과 백악관 최고 기술 정책 고문 마이클 크라티오스가 포함되었다. 그들의 동행은 회담을 우선순위이자 긴급한 사안으로 만들었으며, 양측은 AI 문제를 직접 논의하기 위해 준비된 채로 왔다. 

중국은 재무장관 스콧 베센트 과 중국 부재상 리아오 민이 주도하는 AI 문제에 대한 공식 대화를 제안했다. 그러나 어느 기관도 AI를 전문으로 하지 않기 때문에 이 채널에 대한 기대는 낮다.

미국은 또한 중국 개발자들이 고급 AI 모델의 출력을 사용하여 일부 의 비용으로, 하지만 더 적은 안전 장벽으로 시스템을 구축하고 있다는 우려를 제기할 계획이었다.

양측은 또한 군사 핫라인과 유사하게 의심스러운 AI 기반 사건을 보고하기 위한 무책임 핫라인을 설립할 가능성을 논의했다.

분석가들은 두 정부가 2015년 미-중 사이버 보안 협정.

과 유사하게 프론티어 AI 모델에 대한 장벽을 준수하도록 약속할 수 있다고 제안했다. MATCH Act는 중국의 반도체 공급망 접근을 제한하려는 제안된 미국 법률이다. 마지막으로 논의는 이 법률에触及할 수도 있다. 

칭화대학의 선청하오(Sun Chenghao)는 미-중 AI 회담에 참여했으며, 미국은 AI 안전 위험 관리와 단순히 중국의 기술 발전을 차단하려는 시도를 명확히 구분해야 한다고 말했다. 

“중국은 미국이 AI 거버넌스와 기술 봉쇄를 적절히 구분하기를 바랄 가능성이 높다,” 선청하오가 말했다.