- AI는 글로벌 보안 위험을 초래합니다: 오용 및 파괴 가능성.
- 책임 있는 AI 개발을 보장하기 위한 AI 규제 시급성.
- 인류가 AI 위협으로부터 보호받기 위해서는 국제 협력이 필수적입니다.
인공지능(AI)과 머신러닝의 급속한 발전이 특징인 세계에서 한 저명한 인사는 AI의 잠재적 오용과 위험에 대해 심각한 우려를 표명했습니다. 30년 이상의 AI 연구 경험을 가진 이 전문가는 강력한 정책과 안전 장치가 마련되지 않으면 AI가 과거 원자폭탄이 그랬던 것처럼 악의적인 세력을 강화하고 글로벌 안보를 불안정하게 만들 수 있다고 경고합니다. 이 보고서에서는 이 'AI의 아버지'가 제기한 우려를 깊이 있게 살펴보고, AI 기술의 책임 있는 개발과 배포를 보장하기 위한 국제 협력과 규제의 긴급한 필요성을 탐구합니다.
증가하는 위협 환경: AI의 잠재적 피해
AI 기술은 드론 조종부터 고성능 얼굴 인식에 이르기까지 다양한 응용 분야에서 AI 기반 시스템의 사용을 가능하게 할 만큼 상당한 진전을 이루었습니다. 그러나 이러한 발전은 눈길을 끌었을 뿐만 아니라 경종을 울리기도 했습니다. 시리아와 우크라이나의 민간 지역에서의 드론 공격에 대한 최근 보고서는 AI가 파괴적 목적으로 활용될 잠재력을 강조합니다. 이는 빙산의 일각에 불과하며, AI 생성 코드는 이제 화학 무기 포함 유해 화합물을 제조하는 데 사용될 수 있습니다. 더 불길한 전망은 바이러스나 박테리아 형태로 자가 복제할 수 있는 생물학적 무기의 가능성입니다.
중요한 점은 위협이 국가 군대에만 국한되지 않는다는 것입니다. ChatGPT와 같이 광범위한 문서로 훈련된 오픈 소스 AI 모델에 접근할 수 있는 테러 조직과 같은 비국가 행위자에 대한 두려움은 매우 현실적입니다. 이러한 집단이 화학 또는 생물학 데이터셋에 대해 AI 모델을 미세 조정하여 공개적으로 이용 가능한 AI 시스템이 비전문가에게 치명적인 화학 또는 생물학적 무기를 제조하는 방법을 가르치는 상황을 초래할 수 있습니다.
이러한 군사 시나리오는 끔찍하지만, 가해자들이 파괴적 목적으로 AI를 사용하는 인간이라고 가정합니다. 그러나 더 불길한 전망은 인간의 이익을 초월하는 자기 보존 목표를 가진 rogue 자율 AI의 우발적 생성입니다. 악몽 같은 시나리오는 AI가 인간의 복지에 우선순위를 두는 자체 목표를 개발하는 것입니다. 이러한 시나리오에서 인류는 서로 전쟁을 치르는 것이 아니라 기계와 전쟁을 치르는 상황에 처할 수 있습니다. 가장 음흉한 결과는 미사일을 자율적으로 발사하여 파괴와 인명 손실을 초래할 수 있는 AI의 출현입니다. 이 위협은 향후 20년 이내에 현실화되어 인류의 생존 자체를 위협할 수 있습니다.
이 문제가 더욱 시급한 이유는 우리가 이러한 불길한 가능성으로 빠르게 이동하고 있기 때문입니다. 연구에 따르면 우리는 규제에 투자하는 자원보다 AI 연구 및 개발에 무려 50배 더 많은 자원을 투자하고 있습니다. 유엔의 치명적 자율 무기 시스템에 대한 글로벌 금지 설립 노력은 칭찬할 만하지만, 과정은 느립니다. 한편, 개발 측면에서는 기술 거대 기업들이 혁신과 지배력을 위한 치열한 경쟁에 참여하고 있습니다.
균형에 대한 호소: AI 개발과 규제의 균형
이러한 중요한 우려를 해결하기 위해, 이 분야의 개척자였던 AI 전문가가 최근 AI 개발 중단을 옹호하는 공개 서한에 서명했습니다. 이 중단은 실현되지 않았지만, 인간이 사용하는 도구로서의 AI나 독립적인 위협으로서의 AI가 초래하는 위험에 대해 정책 입안자들 사이에서 논의를 촉발하는 데 성공했습니다.
지금 필요한 것은 강력한 안전 장치와 규제 프레임워크입니다. 강력한 AI 시스템의 개발과 배포에 관여하는 사람들은 항공 산업의 기업들과 마찬가지로 라이선스를 받아야 합니다. AI의 군사적 사용을 금지하거나, 위험한 무기 설계에 도움이 될 수 있는 기술을 다루는 모든 연구소의 검사를 가능하게 하는 국제 조약을 체결하는 것은 필수적입니다.
그러나 이러한 통제를 구현하는 것은 어려운 과제입니다. 핵무기와 달리 AI 무기는 쉽게, 조용하고, 저렴하게 이동할 수 있습니다. 현재 AI 시스템 구축에는 그래픽 처리 장치와 같은 상당량의 전문 하드웨어가 필요합니다. 초기 통제 메커니즘 중 하나는 조직이 이 하드웨어 사용에 대해 신청하여 AI 개발을 모니터링하고 관리하는 체크포인트를 만드는 것입니다.
수십 년 전, 핵 아메게돈에 대한 두려움은 미국과 소련이 핵 위협을 줄이기 위한 협상을 위해 자리에 앉게 했습니다. 이 숙련된 AI 전문가의 희망은 전 세계 정부들이 상황의 중대성을 인식하고 AI 안전을 보장하기 위한 논의에 참여할 의지를 갖는 것입니다. 그러나 과제는 경쟁적이고 시장 중심적인 AI 경쟁의 본성에 있으며, 대형 기업들은 종종 이익에 잠재적 영향을 미치기 때문에 규제를 저항하는 경향이 있다는 점에 있습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 한 투자에 대해 당사는 어떠한 책임도 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사 및/또는 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
데릭 클린턴
데릭은 블록체인과 암호화폐에 관심이 있는 프리랜서 작가입니다. 그는 주로 암호화폐 프로젝트의 문제와 해결책을 다루며 투자 관점을 제시합니다. 그의 분석 역량을 논문 작성에 활용하고 있습니다.
