UN 인권 최고 대표 튀르크, 고도화된 AI가 인류를 위협할 수 있다고 경고하며 ‘레드라인’ 설정 촉구

유엔(UN) 인권 최고 대표 볼커 튀르크(Volker Türk)는 오늘(9월 7일) 제네바에서 열린 인권이사회에서 인공 지능 능력이 인류에 대한 존재론적 위협이 될 단계로 성장하는 것에 대해 공개적으로 경고했습니다.

튀르크는 정부들이 즉각적으로 방어를 구축하고 자율 시스템 기술 리더십 경쟁 최전선에 있는 AI 연구소들의 통제 불능 상태 확산을 억제하기 위해 신속히 움직일 것을 촉구했습니다.

UN 행정부의 가장 큰 골칫거리는 AI 기술의 성장 속도가 현재 이를 추적하는 규제 시스템을 능가한다는 점입니다. 이러한 통제되지 않은 성장은 이제 허위 정보와 실업 문제를 넘어 보안, 책임성, 그리고 고도로 자율적인 시스템에 대한 통제 불능의 감독과 같은 존재론적 영역으로 위협을 확대했습니다. 

UN 인권 최고 대표, 긴급한 국제적 행동 촉구 

튀르크는 AI의 능력을 아직 검증할 수 있는 시간이 얼마 남지 않았다는 점을 인용하며, 국제적으로 조정된 행동을 촉구하는 데 담긴 긴급성의 근거로 제시했습니다. 또한 그는 지적했다 분야의 발전 속도와 방향이 불균형적으로 소수의 기술 임원들과 기업들의 손에 달려 있다는 점을 지적했습니다.. 

튀르크 그가 지적한 경고 신호에 대한 해결책을 제안했습니다. 그의 대안은 이러한 선도적인 AI 기업들이 본거지를 둔 국가들과 중요한 공급망을 통제하는 국가들이 나서서 기술이 허용될 수 있는 한도에 대해 ‘레드라인’을 그리는 것입니다.

UN 인권 최고 대표는 7월 같은 스위스 도시에서 열린 제1차 AI 거버넌스 글로벌 대화에서 국제 기구가 다뤘던 주제를 다시 다루고 있습니다. 

대화가 시작된 ITU의 AI for Good 정상회의에서 튀르크는 “우리는 의약품, 자동차 또는 항공기의 안전 기준을 진전의 장애물로 간주하지 않습니다,”라고 말했으며, 이는 UN 영상에 따르면 “그들이 사람들이 처음부터 그 기술들을 신뢰하는 이유입니다.”라고 덧붙였습니다. 그는 인간 감독이 “단순히 도장 찍는 행위가 될 수 없다”고 강조했습니다.

그 정상회의에서의 대화를 이끈 증거 중 일부는 UN이 임명한 AI에 대한 글로벌 과학 패널의 소니아 리빙스턴(Sonia Livingstone)에 의해 제시되었습니다. 당시 최소한 한 교실의 어린이 중 한 명은 11개 글로벌 남부 국가를 대상으로 한 연구에서 성적으로 명시적인 AI 딥페이크의 대상이 되었다고 밝혔습니다. 

UN 여성 기구 사무총장 시마 바후스(Sima Bahous) 또한 그 모든 것의 성별 편향성을 지적했습니다. 그녀에 따르면 상위 AI 연구자의 약 88%는 남성입니다. 또한 그녀가 조사한 여성 활동가 및 기자 중 최소 4명 중 1명은 AI 지원 온라인 학대를 경험했다고 보고했습니다.

AI 연구소와 입법자들이 문제들을 깨달았습니다

유엔이 이번 여름에 경보를 울리는 유일한 기관은 아닙니다. 미국 상원의원 버니 샌더스는 고도화된 AI 작업에 대한 즉각적인 중단과 슈퍼인텔리전스에 대한 영구적인 금지를 촉구했으며, 영국 의회의 초당파 그룹은 ‘방치된 AI 사건’ 연쇄 발생 이후 법적 의무화된 AI ‘킬 스위치’를 추진했습니다. 

그 불안감은 OpenAI의 주장을 따랐습니다. 이는 GPT-6 Astra 모델과 관련되어 있으며, 그 기술이 인공 일반 지능(AGI)에 도달했다고 주장했습니다. 또한 Anthropic은 자체 모델이 인간 가치와 ‘완전히 정렬되어 있지 않다’고 인정했습니다.

그 압력의 일부는 업계 내부에서 옵니다. 6월의 에세이 Axios가 보도한 바에 따르면, Anthropic CEO 다리오 아모데이(Dario Amodei)는 정부가 위험한 AI 배포를 차단하거나 되돌릴 법적 권한을 가져야 하며, 최전선 모델은 자동차, 항공기 또는 신약과 마찬가지로 의무적인 테스트를 받아야 한다고 주장했습니다.자신의 이사회 업데이트에서 튀르크는 이 주제를 전장으로 확장하여, 인간이 개입하지 않고 살상할 수 있는 무기의 금지를 지지하는 목소리에 힘을 실었습니다. 

유엔(UN) 인권 최고 대표 볼커 튀르크(Volker Türk)는 오늘(9월 7일) 제네바에서 열린 인권이사회에서 인공 지능 능력이 인류에 대한 존재론적 위협이 될 단계로 성장하는 것에 대해 공개적으로 경고했습니다. 튀르크는 정부들이 즉각적으로 방어를 구축하고 AI 연구소들의…