중국-미국 기술 경쟁과 글로벌 AI 안전의 시급성

세계가 인공지능(AI)의 빠른 발전에 직면하는 가운데, 정책 입안자들은 AI가 국가 경계를 초월할 수 있는 파국적인 위험을 도입할 가능성에 대한 긴급한 딜레마에 직면해 있습니다. 이러한 위험의 정확한 성격과 확률은 불확실하지만, 전문가들은 AI 재앙을 방지하기 위한 예방적 조치의 필요성을 강조합니다. 

AI 재앙의 과제

AI는 광범위한 결과를 초래할 수 있는 파국적인 사건을 가져올 잠재력이 있습니다. 여기에는 치명적인 병원체를 만들기 위해 AI를 악용하는 것, AI 기반의 금융 위기 공학, 그리고 인간의 통제 밖에서 rogue AI 시스템의 출현이 포함됩니다. AI 재앙의 예측 불가능성은 많은 사람들이 이를 먼 가능성으로 dismissing하게 만듭니다. 그러나 COVID-19 팬데믹이 보여주듯이, 행동을 취하기 전에 구체적인 증거를 기다리는 것은 너무 늦을 수 있습니다.

과거에서 교훈을 얻어, 우리는 사람들이 먼 위험의 중요성을 파악하는 어려움을 인식해야 합니다. Bill Gates의 빠른 확산 바이러스에 대한 취약성에 대한 경고는 코로나바이러스 팬데믹의 파괴적인 영향이 현실이 될 때까지 무시되었습니다. 우리는 AI 주변의 불확실성에 대응하여 이 실수를 반복하지 않아야 합니다.

AI 기술의 점진적 채택

MIT 교수인 다론 아체글루와 토드 렌스만은 변혁적 기술 채택에 대한 cautious한 접근을 제안합니다. 사회는 위험 평가를 허용하기 위해 새로운 기술을 점진적으로 채택해야 합니다. 재앙이 unlikely하다는 것이 더 확실해지면 사회는 채택을 가속화할 수 있습니다. 그러나 현재 선도 국가들의 관행은 이 접근과 모순됩니다.

미국과 중국은 현재 AI에서 우위를 점하기 위한 치열한 경쟁에 있습니다. 두 나라는 AI 능력을 발전시키기를 열망하지만, 이 경쟁은 AI 안전에 상응하는 초점 없이 이루어지고 있습니다.

미국에서는 최첨단 AI 기업들이 공공 안전에 잠재적 위험을 초래할 수 있는 강력한 파운데이션 모델을 개발하고 있습니다. AI 개발에 막대한 투자가 이루어지고 있음에도 불구하고, 이러한 기업들은 AI 안전성을 보장하기 위해 제한된 자원만 할당해 왔습니다. 조 바이든 대통령의 최근 행정명령은 최첨단 AI 모델 개발자들이 안전 테스트 결과와 중요한 정보를 정부와 공유하도록 요구함으로써 이 문제를 해결하려 합니다. 또한 미국은 중국의 AI 발전을 저지하기 위해 수출 제한과 중국 AI 부문에 대한 미국 투자 금지 조치를 취했습니다. 이러한 조치는 중국의 진전을 늦추는 효과가 있지만, 중국 기업들이 기술적 자급자족을 추구하도록 장려하여 AI 위험 평가를 더욱 복잡하게 만들 수 있습니다.

중국-미국 기술 경쟁이 AI 안전성에 미치는 영향

지속되는 기술 경쟁은 베이징의 AI 규제 접근 방식에도 영향을 미쳤습니다. 중국은 생성형 AI 서비스에 대한 포괄적인 규제를 도입했지만, 이는 주로 공공 서비스에 적용되며 콘텐츠와 정보 통제를 중점적으로 다룹니다. 비즈니스 목적의 서비스는 여전히 규제가 덜 이루어지고 있으며, 이는 미국과 경쟁하기 위해 이 중요한 기술 부문의 성장을 촉진하려는 중국의 전략을 반영합니다. 이러한 경쟁은 세계 최고의 AI 강국 간 AI 거버넌스에서의 '하향 경쟁(race to the bottom)'을 초래할 위험이 있습니다.

국제 협력의 중요성

looming AI 위험에 대응하기 위해 국제 사회는 잠재적 재앙적 결과를 인식하고 전 세계 AI 기업들이 강력한 안전 프로토콜을 수립하도록 촉구해야 합니다. 다가오는 영국 AI 안전 정상회의는 이러한 중요한 쟁점에 대한 대화를 시작하는 데 있어 중요한 시작점이 될 것입니다.

인공지능 분야에서의 중국-미국 기술 경쟁은 AI 안전성 소홀에 대한 우려를 불러일으켰습니다. 경쟁이 혁신을 주도할 수는 있지만, AI 위험을 완화하기 위한 긴급한 협력 필요성을 가려서는 안 됩니다. 세계는 과거 위기의 교훈을 경청하고 AI의 책임 있는 개발과 규제를 보장하기 위해 적극적으로 협력해야 합니다. 오직 국제 협력을 통해서만 우리는 AI 기술의 잠재적 재앙적 결과를 통제할 수 있을 것입니다.