유엔 인권 최고대표 튀르크는 고도화된 인공지능이 인류를 위협할 수 있다고 경고하며 '레드라인' 설정을 촉구했다

유엔 인권 최고대표인 볼커 튀르크는 오늘(9월 7일) 제네바에서 열린 인권이사회에서 인공지능 기술이 인류의 실존적 위협이 될 정도로 발전할 가능성에 대해 공개적으로 경고했다.

튀르크는 각국 정부에 보안 강화 조치를 신속히 취하고, 자율 시스템 기술 경쟁에서 선두에 서 있는 AI 연구소들의 성장을 억제하여 보안 취약점과 안전 사고가 급증하는dent막아야 한다고 촉구했다.

유엔 집행부가 직면한 가장 큰 골칫거리는 인공지능 기술의 발전 속도가 현재 이를 규제하는 시스템의 속도를 trac못한다는 점입니다. 통제되지 않은 이러한 성장은 이제 허위 정보 유포와 일자리 감소를 넘어 안보, 책임성 확보, 고도로 자율적인 시스템에 대한 무분별한 감독 등 실존적 위협으로까지 확대되고 있습니다. 

유엔 인권 사무총장, 긴급한 국제적 조치 촉구 

튀르크는 인공지능의 능력을 검증할 수 있는 시간이 얼마 남지 않았다는 점을 들어 국제적인 공동 대응의 시급성을 강조했습니다. 그는 또한 인공지능 지적했습니다 손에 지나치게 좌우되고 있다고 소수의 기술 경영진과 기업들의. 

튀르크는 해결책을 제시했습니다 . 그의 대안은 이러한 주요 AI 기업들이 위치한 국가들과 핵심 공급망을 장악하고 있는 국가들이 나서서 해당 기술이 어디까지 허용될 수 있는지에 대한 "레드라인"을 설정해야 한다는 것입니다.

유엔 인권 최고대표는 지난 7월 같은 스위스 도시에서 열린 제1차 인공지능 거버넌스 글로벌 대화에서 다뤘던 주제를 다시 논의하고 있습니다. 

유엔이 공개한 영상 에 따르면, ITU의 AI for Good 정상회의에서 튀르크는 "의약품, 자동차, 항공기의 안전 기준을 발전의 장애물로 여기지 않는다"며 "오히려 사람들이 해당 기술을 신뢰하는 이유가 된다"고 말했다. 그는 또한 "인간의 감독은 단순히 형식적인 승인에 그쳐서는 안 된다"고 덧붙였다.

그 정상회담에서 논의를 이끌었던 증거 중 일부는 유엔이 위임한 인공지능 글로벌 과학 패널의 소니아 리빙스턴이 제시한 것이었다. 당시 11개 개발도상국을 대상으로 한 연구에 따르면, 각 학급당 최소 한 명의 어린이가 성적으로 노골적인 인공지능 딥페이크 영상의 대상이 된 적이 있다고 답했다. 

유엔여성기구(UN Women) 사무총장 시마 바하우스는 성별 편견이 존재한다고 지적했습니다 . 그녀에 따르면, 최고 수준의 AI 연구자 중 약 88%가 AI에 대한 편견을 갖고 있다고 합니다. 또한 그녀의 기관이 조사한 여성 활동가와 언론인 중 최소 4분의 1이 AI를 이용한 온라인 학대를 경험했다고 밝혔습니다.

AI 연구소와 국회의원들이 이러한 문제들을 인식하기 시작했습니다

유엔만이 이번 여름에 경고음을 울리는 것은 아닙니다. 미국의 버니 샌더스 상원의원은 고도화된 AI 연구를 즉시 중단하고 초지능을 영구적으로 금지할 것을 촉구했으며, 영국의 초당파 의원들은 최근 잇따른 AIdent사고를 이유로 AI "킬 스위치"를 법적으로 의무화할 것을 요구했습니다. 

그러한 불안감은 OpenAI가 GPT-6 Astra 모델자사의 기술이 인공 일반 지능에 도달했다고 주장한 것과 Anthropic이 자체 모델이 인간의 가치와 "완벽하게 일치하지는 않는다"고 인정한 데서 비롯되었습니다.

그러한 압력 중 일부는 업계 내부에서 비롯됩니다. 악시오스가 보도앤트로픽 CEO 다리오 아모데이는 정부가 위험한 AI 배포를 차단하거나 되돌릴 수 있는 법적 권한을 가져야 하며, 최첨단 모델은 자동차, 항공기 또는 신약처럼 의무적인 테스트를 거쳐야 한다고 주장했습니다. 

튀르크는 자신의 위원회 업데이트에서 이 주제를 전장으로 확장하여 인간의 개입 없이 살상이 가능한 무기를 금지해야 한다는 주장을 지지했습니다.