미국 언론과 기술계 인사들이 초지능 AI 개발 중단을 촉구했습니다

미국의 우익 언론인, 과학자, 기술 업계 리더들로 구성된 연합은 과학적으로 안전하게 통제할 수 있다는 것이 입증되고 대중의 지지를 얻을 때까지 초지능 인공지능(AI) 개발을 전 세계적으로 금지해야 한다고 촉구하고 있습니다.

로이터 통신이 수요일에 보도한 바에 따르면, 미래생명연구소(FLI)가 주도한 이번 호소는 850명 이상의 저명인사들이 서명한 공동 성명을 통해 발표되었습니다. 

이 문서는 정부와 AI 기업들에게 인간의 인지 능력을 훨씬 뛰어넘는 것으로 여겨지는 초지능 AI 시스템 관련 연구를 모두 중단하고 , 공개적으로 승인된 안전 장치가 마련될 때까지 기다릴 것을 요구하고 있습니다.

동맹국들이 초지능 AI 개발을 저지하기 위해 힘을 모으고 있다 

서명자 들은 우익 언론인 스티브 배넌과 글렌 벡을 비롯해 저명한 인공지능 연구자 제프리 힌튼과 요슈아 벤지오를 비롯해 버진 그룹 창립자 리처드 브랜슨, 애플 공동 창립자 스티브 워즈니악, 전직 미국 군인 및 정치인 등입니다. 

이 명단에는 마이크 멀런 전 합참의장, 수잔 라이스 전 국가안보보좌관, 해리 왕자와 메건 마클 서식스 공작 부부, 그리고 메리 로빈슨 전 아일랜드dent 도 포함되어 있습니다.

저명한 컴퓨터 과학자 요슈아 벤지오는 해당 단체의 웹사이트에 게재된 성명에서 인공지능 시스템이 머지않아 대부분의 인간보다 인지 능력이 뛰어날 수 있다는 우려를 표명했습니다. 벤지오는 기술이 세계적인 문제 해결에 도움이 될 수 있지만, 무분별하게 개발될 경우 엄청난 위험을 초래할 수 있다고 강조했습니다.

그는 "초지능으로 안전하게 나아가기 위해서는, 오작동이나 악의적인 사용을 통해 인간에게 해를 끼칠 수 없는 인공지능 시스템을 근본적으로 설계하는 방법을 과학적으로 규명해야 한다"며, "또한 우리의tron를 결정할 중요한 사안에 대해 국민의 발언권이 훨씬 더 강화되도록 해야 한다"고 말했다

2014년 테슬라 CEO 일론 머스크와 기술 투자자 얀 탈린 의 초기 지원을 받아 설립된 비영리 단체인 미래생명연구소(Future of Life Institute) 또한 책임 있는 AI 거버넌스를 위해 캠페인을 벌이는 단체 중 하나입니다.

해당 단체는 초지능 인공지능(AI) 또는 인공 초지능(ASI) 개발 경쟁이 제대로 규제되지 않으면 인류에게 돌이킬 수 없는 위험을 초래할 수 있다고 경고합니다.

이 단체는 최근 성명에서 초지능이 "인류의 경제적 무용지물화, 무력화, 자유, 시민적 권리, 존엄성 및 통제력 상실, 국가 안보 위협, 심지어 인류의 잠재적 멸종"으로 이어질 수 있다고 지적했습니다

FLI는 정책 입안자들에게 "tron대중적 지지"와 "그러한 시스템을 안전하게 구축하고 제어할 수 있다는 과학적 합의"가 확보될 때까지 초지능 연구 개발을 전면 금지할 것을 촉구하고 있습니다

기술 업계, 인공지능 개발에 대해 의견 분분

일부에서는 인공지능이 일자리와 제품 개발에 미치는 영향에 대해 반대 의견을 표명하고 있지만, 거대 기술 기업들은 여전히 ​​인공지능 기술의 한계를 뛰어넘기 위해 노력하고 있습니다. 일론 머스크의 xAI, 샘 알트만의 OpenAI, 그리고 Meta는 모두 강력한 대규모 언어 모델(LLM) 개발 경쟁을 벌이고 있습니다. 

지난 7월, 메타(Meta)의 CEO 마크 저커버그는 한 컨퍼런스에서 초지능 시스템 개발이 "이제 눈앞에 다가왔다"고 말했습니다. 그러나 일부 AI 전문가들은 저커버그 CEO가 향후 수천억 달러 규모로 성장할 것으로 예상되는 AI 분야에서 자사가 "앞서나가고 있다"는 점을 강조하며 경쟁사들을 겁주기 위한 마케팅 전략을 펼치고 있다고 주장합니다.

미국 정부 와 기술 업계는 "인공지능 대재앙"에 대한 우려가 지나치게 과장되었다며 개발 중단 요구에 저항해 왔습니다. 개발 중단에 반대하는 사람들은 이러한 조치가 혁신을 저해하고 경제 성장을 둔화시키며, 인공지능이 의학, 기후 과학, 자동화 분야에 가져올 수 있는 잠재적 이점을 가로막을 것이라고 주장합니다.

하지만 FLI가 의뢰한 전국 여론조사에 따르면 미국 국민은 대체로 더 엄격한 감독을 선호하는 것으로 나타났습니다. 성인 2,000명을 대상으로 한 이 조사에서dent의 4분의 3이 고도화된 AI에 대한 더 많은 규제를 지지했으며, 10명 중 6명은 초인적인 AI는 통제 가능성이 입증될 때까지 개발되어서는 안 된다고 생각하는 것으로 밝혀졌습니다. 

오픈AI의 최고경영자가 되기 전인 샘 알트만은 2015년 블로그 게시물에서 "인간을 초월하는 기계 지능은 인류의 지속적인 생존에 가장 큰 위협이 될 가능성이 높다"고 경고한 바 있다

마찬가지로, 인공지능 발전에 자금을 지원하는 동시에 반대 입장을 취해온 일론 머스크는 올해 초 조 로건의 팟캐스트 인공지능이 인간 지능을 능가하여 인류가 멸망할 가능성은 "단 20%에 불과하다"고 말했습니다.