미중 기술 경쟁과 글로벌 AI 안전의 시급성

세계가 인공지능(AI)의 급속한 발전에 직면하면서 정책 입안자들은 국경을 초월할 수 있는 재앙적인 위험을 초래할 수 있는 AI의 잠재력이라는 시급한 딜레마에 직면해 있습니다. 이러한 위험의 정확한 성격과 발생 확률은 아직 불확실하지만, 전문가들은 AI 재앙을 예방하기 위한 선제적 조치의 필요성을 강조합니다. 

인공지능 재앙의 과제

인공지능(AI)은 광범위한 파급 효과를 가져올 수 있는 재앙적인 사건을 초래할 잠재력을 지니고 있습니다. 여기에는 치명적인 병원균을 만들어내는 악용, AI를 이용한 금융 위기 조장, 인간의 통제를 벗어난 폭주하는 AI 시스템의 출현 등이 포함됩니다. AI 재앙의 예측 불가능성 때문에 많은 사람들이 이를 희박한 가능성으로 치부해 왔습니다. 그러나 코로나19 팬데믹에서 보았듯이, 구체적인 증거를 기다리며 조치를 취하는 것은 너무 늦을 수 있습니다.

과거의 교훈을 통해 우리는 사람들이 멀리 떨어진 위험의 심각성을 제대로 이해하지 못하는 경향이 있음을 인식해야 합니다. 빌 게이츠가 빠르게 확산되는 바이러스에 대한 취약성을 경고했지만, 코로나바이러스 팬데믹의 파괴적인 영향이 현실이 될 때까지 아무도 귀 기울이지 않았습니다. 인공지능을 둘러싼 불확실성에 대처하는 데 있어서도 이러한 실수를 반복해서는 안 됩니다.

인공지능 기술의 점진적 도입

MIT 교수인 다론 아세모글루와 토드 렌스먼은 혁신적인 기술 도입에 신중한 접근 방식을 제안합니다. 사회는 위험 평가 시간을 확보하기 위해 새로운 기술을 점진적으로 도입해야 한다는 것입니다. 재난 발생 가능성이 낮아진다는 확신이 들면 그때 도입 속도를 높일 수 있다는 것입니다. 그러나 현재 주요 국가들의 관행은 이러한 접근 방식과 상반됩니다.

미국과 중국은 현재 인공지능(AI) 분야에서 주도권을 잡기 위해 치열한 경쟁을 벌이고 있습니다. 두 나라 모두 AI 역량을 강화하고자 하지만, 이러한 경쟁 속에서 AI 안전에 대한 충분한 관심은 부족한 실정입니다.

미국에서는 첨단 AI 기업들이 공공 안전에 잠재적 위험을 초래할 수 있는 강력한 기반 모델을 개발하고 있습니다. AI 개발에 상당한 투자를 하고 있음에도 불구하고, 이들 기업은 AI 안전을 보장하기 위한 자원은 제한적으로만 투입해 왔습니다. 조 바이든dent 의 최근 행정명령은 이러한 문제를 해결하기 위해 첨단 AI 모델 개발업체들이 안전성 테스트 결과와 핵심 정보를 정부와 공유하도록 의무화했습니다. 또한, 미국은 중국의 AI 발전을 억제하기 위해 수출 제한 및 중국 AI 부문에 대한 미국 투자 금지 등의 조치를 취했습니다. 이러한 조치들은 중국의 AI 발전을 늦추는 동시에 중국 기업들이 기술적 자립을 추구하도록 부추겨 AI 위험 평가를 더욱 복잡하게 만들 수 있습니다.

미중 기술 경쟁이 AI 안전에 미치는 영향

지속되는 기술 경쟁은 베이징의 AI 규제 방식에도 영향을 미쳤습니다. 중국은 생성형 AI 서비스에 대한 포괄적인 규제를 도입했지만, 이는 주로 공공 서비스에 적용되며 콘텐츠 및 정보 통제에 초점을 맞추고 있습니다. 비즈니스 목적의 서비스는 규제가 덜한데, 이는 미국과의 경쟁에서 우위를 점하기 위해 이 핵심 기술 분야의 성장을 촉진하려는 중국의 전략을 반영합니다. 이러한 경쟁은 세계 주요 AI 강국 간의 AI 거버넌스에서 "최저 수준 경쟁"을 촉발할 위험이 있습니다.

국제 협력의 중요성

다가오는 인공지능(AI) 위험에 대처하기 위해 국제 사회는 잠재적으로 재앙적인 결과를 인식하고 전 세계 AI 기업들이 강력한 안전 프로토콜을 수립하도록 촉구해야 합니다. 다가오는 영국 AI 안전 정상회의는 이러한 중요한 문제에 대한 대화를 시작하는 데 있어 매우 중요한 출발점입니다.

미중 인공지능 기술 경쟁은 AI 안전 소홀에 대한 우려를 불러일으켰습니다. 경쟁은 혁신을 촉진할 수 있지만, AI 위험 완화를 위한 협력의 시급성을 간과해서는 안 됩니다. 세계는 과거의 위기에서 얻은 교훈을 바탕으로 AI의 책임 있는 개발과 규제를 위해 적극적으로 협력해야 합니다. 국제적인 협력을 통해서만 AI 기술이 초래할 수 있는 잠재적인 재앙적 결과를 억제할 수 있을 것입니다.