노벨상 수상자들이 정치인, 과학자들과 함께 위험한 인공지능 사용을 제한해야 한다는 긴급 호소에 동참했습니다

인공지능 기술의 오용을 억제하기 위한 구속력 있는 국제적 제한에 대해 각국 정부가 합의하도록 촉구하는 캠페인이 유엔 차원으로 확대되었으며, 노벨상 수상자 10명을 포함한 200명 이상의 저명한 정치인, 과학자, 사상가들이 이 기술의 위험성에 대해 경고했습니다.

월요일 유엔 총회 고위급 회의 주간 개막식에서 발표된 이 성명은 '인공지능 레드라인 설정 촉구'로 불리고 있습니다. 성명은 인공지능의 "현재 발전 방향이 전례dent위험을 초래한다"고 주장하며, 각국이 2026년 말까지 명확하고 검증 가능한 제한 조치에 대한 국제적 합의를 마련할 것을 요구합니다.

노벨상 수상자들이 유엔에서 호소문을 발표했습니다.

노벨 평화상 수상자이자 언론인인 마리아 레사는 개막 연설에서 각국 정부에 "전 세계적으로 용납할 수 없는 위험을 예방"하고 인공지능이 절대 해서는 안 될 일을 명확히 defi할 것을 촉구하며 이러한 호소를 공개했습니다.

성명서 서명자에는 화학, 경제학, 평화, 물리학 분야의 노벨상 수상자들과 스티븐 프라이, 유발 노아 하라리와 같은 저명한 작가들이 포함되어 있습니다. 메리 로빈슨 전 아일랜드dent 과 노벨 평화상 수상자인 후안 마누엘 산토스 전 콜롬비아dent 도 서명에 참여했습니다.

인공지능의 대부로 널리 알려져 있으며 컴퓨터 과학 분야의 노벨상으로 여겨지는 튜링상을 수상한 제프리 힌튼과 요슈아 벤지오도 이 성명에 서명했습니다.

하라리는 “지금은 전환점입니다. 인공지능 기술이 우리의 이해를 넘어 사회를 재편하고 인간성의 근간을 파괴하기 전에, 인류는 인공지능에 대한 명확한 레드라인을 정해야 합니다.”라고 말했습니다

과거에는 인공지능(AI)에 대한 경각심을 일깨우기 위한 노력들이 주로 기업과 정부의 자발적인 약속에 초점을 맞춰왔습니다. 2023년 3월, 일론 머스크를 포함한 1,000명 이상의 기술 업계 리더들이 강력한 AI 시스템 개발을 일시 중단할 것을 촉구했습니다. 몇 달 후, 오픈AI의 샘 알트만과 구글 딥마인드의 데미스 하사비스 같은 AI 업계 최고 경영진들은 AI가 초래할 실존적 위험을 핵전쟁이나 전염병에 비유하는 간략한 성명을 발표했습니다.

인공지능은 실존적, 사회적 위험에 대한 공포를 부추긴다

바로 지난주, 인공지능은 십대 청소년의 자살부터 여론 조작에 이용되었다는 보고에 이르기까지 다양한 사건에 연루된 것으로 드러났습니다.

이 성명서에matic 인권 침해로 이어질 수 있다고 경고해 왔습니다. 서명한 사람들은 이러한 당면한 위험이 곧 더 큰 위협에 가려질 수 있다고 주장합니다. 전문가들은 고도화된 AI 시스템이 제대로 제어되지 않으면 대규모 실업, 인위적인 전염병 발생, 또는 조직

제재 대상 목록에는 치명적인 자율 무기 금지, 자기 복제 AI 시스템 금지, AI가 핵전쟁에 절대 사용되지 않도록 보장하는 것 등이 포함됩니다.

"인공지능이 인류에게 심각하고 돌이킬 수 없는 피해를 입히는 것을 막는 것은 우리 모두의 중요한 공동 이익이며, 우리는 그에 따라 행동해야 합니다." 2013년 노벨 평화상을 수상한 화학무기금지기구(OPCW)의 전 사무총장 아흐메트 위줌추는 이렇게 말했다.

영국 싱크탱크 데모스와 베이징 인공지능 안전 및 거버넌스 연구소를 포함해 60개 이상의 시민사회단체가 이 서한에 서명했습니다. 이 활동은 캘리포니아 대학교 버클리 캠퍼스의 인간 친화형 인공지능 센터, 미래사회, 프랑스 인공지능 안전 센터 등 세 곳의 비영리 단체가 주도하고 있습니다.

오픈AI 와 앤트로픽 같은 기업들이 모델 출시 전 정부 테스트를 받기로 합의하는 등 최근 안전성 관련 약속을 했음에도 불구하고, 연구에 따르면 기업들이 약속을 이행하는 비율은 절반 정도에 불과한 것으로 나타났습니다.

레사는 “더 이상 기다릴 여유가 없다”며 “인공지능이 우리가 통제할 수 있는 수준을 넘어서기 전에 행동해야 한다”고 말했다