- 노벨상 수상자 10명을 포함한 200명 이상의 지도자들이 유해한 AI 사용에 대한 구속력 있는 국제적 제한을 2026년까지 도입할 것을 촉구하고 있습니다.
- 제안된 금지 사항에는 자율 살상 무기, 자가 복제 AI 및 핵전쟁에서의 AI 사용이 포함됩니다.
- 유엔 총회에서 공개된 이 글로벌 호소는 AI 기업들의 자발적 약속만으로는 부족하다고 강조합니다.
AI 기술의 남용을 제한하기 위해 구속력 있는 국제적 한계에 대해 정부들이 동의하도록 압박하는 캠페인은 10명의 노벨상 수상자를 포함한 200명 이상의 저명한 정치인, 과학자, 사상가들이 기술의 위험에 대한 경고를 발의함에 따라 유엔 차원으로 격상되었습니다. 월요일 유엔 총회 고위급 주간 개막식에서 발표된 이 성명은 ‘AI 레드라인에 대한 글로벌 호소(Global Call for AI Red Lines)’라고 불리며, AI의 “현재의 궤적은 전례 없는 위험을 제시한다”고 주장하며 2026년 말까지 명확하고 검증 가능한 제한 사항에 대한 국제적 합의를 위해 국가들이 노력할 것을 요구합니다.
노벨상 수상자들이 유엔에서 호소
이 호소는 노벨 평화상 수상자이자 저널리스트인 마리아 레사가 그녀의 개막 연설을 통해 정부들이 “보편적으로 용납될 수 없는 위험을 예방”하고 AI가 절대 허용되어서는 안 되는 것을 정의할 것을 촉구하며 밝혀졌습니다.
성명서 서명자에는 화학, 경제, 평화, 물리학 분야의 노벨상 수상자들은 물론 스티븐 프라이와 유발 하라리 같은 저명한 작가들이 포함됩니다. 전 아일랜드 대통령 메리 로빈슨과 노벨 평화상 수상자이기도 한 전 콜롬비아 대통령 후안 마누엘 산토스도 이름을 올렸습니다.
‘AI의 아버지’로 널리 알려진 튜링상 수상자이자 노벨상 수상자들과 함께 제프리 힌튼과 요슈아 벤지오도 이 성명에 서명했습니다.
“이는 전환점입니다,”라고 하라리는 말했습니다. “인류는 기술이 사회를 우리의 이해를 넘어 재구성하고 인간성의 기초를 파괴하기 전에 AI에 대한 명확한 레드라인에 동의해야 합니다.”
AI, 존재론적 및 사회적 위험에 대한 두려움 고조
AI에 대한 경고를 높이는 과거의 노력은 종종 기업과 정부의 자발적 약속에 초점을 맞추었습니다. 2023년 3월, 일론 머스크를 포함한 1,000명 이상의 기술 리더들이 강력한 AI 시스템 개발에 대한 일시 중단을 촉구했습니다. 몇 달 후, OpenAI의 Sam Altman과 구글 딥마인드의 Demis Hassabis와 같은 AI 임원들은 AI의 존재론적 위험이 핵전쟁 및 팬데믹과 동일하다고 명시한 짧은 성명에 서명했습니다.
방금 지난 주, AI는 청소년의 자살 사례부터 공공 논조를 조작하는 데 사용되었다는 보고에 이르기까지 다양한 사건에 연루되었습니다.
금수 목록에 포함된 일부 항목에는 치명적 자율 무기 금지, 자가 복제 AI 시스템 금지, 그리고 AI가 핵전쟁에서 절대 배치되지 않도록 하는 것이 포함됩니다.
호소문에 서명한 사람들은 이러한 즉각적인 위험이 곧 더 큰 위협에 의해 가려질 수 있다고 주장합니다. 평론가들은 방치될 경우 고급 AI 시스템이 대량 실업, 설계된 팬데믹, 또는 체계적인 인권 침해를 초래할 수 있다고 경고했습니다.
“AI가 인류에게 심각하고 잠재적으로 회복 불가능한 피해를 입히는 것을 방지하는 것은 우리의 핵심적인 공통 이익이며, 우리는 이에 따라 행동해야 합니다.” 2013년 그의 리더십 하에 노벨 평화상을 수상한 화학무기금기기구(OPCW)의 전 사무총장인 아흐메트 우주무치가 말했습니다.
영국 기반 싱크탱크 데모스와 베이징 AI 안전 및 거버넌스 연구소를 포함한 60개 이상의 시민 사회 단체들이 이 서한에 서명했습니다. 이 노력은 캘리포니아 대학교 버클리의 인간호환성AI센터, 더 퓨처 소사이어티, 그리고 프랑스 AI 안전 센터라는 세 개의 비영리 단체들이 조정하고 있습니다.
“우리는 기다릴 여유가 없습니다,”라고 레사는 말했습니다. “우리는 AI가 우리의 통제 능력을 넘어 발전하기 전에 행동해야 합니다.”
오픈에이아이와 앤트로픽과 같은 기업들의 최근 안전 공약에도 불구하고, 출시 전 모델에 대한 정부 테스트에 동의했지만, 연구에 따르면 기업들은 약속의 약 절반만 이행하고 있는 것으로 나타났습니다.
AI 기술의 남용을 제한하기 위해 구속력 있는 국제적 한계에 대해 정부들이 동의하도록 압박하는 캠페인은 10명의 노벨상 수상자를 포함한 200명 이상의 저명한 정치인, 과학자, 사상가들이 기술의 위험에 대한 경고를 발의함에 따라 유엔 차원으로 격상되었습니다. 월요일…에서 발표된 이 성명은
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.
