찰스 왕세자는 인공지능이 생명을 앗아가는 '더욱 어두운 능력'을 개발하기 전에 이를 통제해야 한다고 경고했습니다

스코틀랜드에서 열린 정상회담에서 찰스 3세 국왕은 세계 최대 인공지능 기업 대표들에게 인공지능 기술을 인간의 통제 하에 유지할 방법을 찾아야 한다고 강조했습니다. 

국왕은 그것을 건설한 사람들이 이제 그것이 "더 어두운 능력"을 갖게 되어 심지어 살인에까지 이용될 수 있다고 두려워한다고 경고했습니다. 

찰스 3세 국왕은 인공지능에 대해 어떻게 생각할까요? 

찰스 3세 국왕은 덤프리스 하우스에서 연설했는데 , 이 행사는 디칠리 재단이 주최했으며 영국의 인공지능 담당 장관인 카니슈카 나라얀, 엔비디아 최고경영자 젠슨 황, 딥마인드 공동 창립자 데미스 하사비스, 오픈AI 재무 책임자 사라 프라이어, 앤트로픽의 국제 업무 책임자 티노 쿠엘라르를 포함한 약 30명의 임원, 공무원 및 연구원들이 참석했습니다.

블룸버그가 입수한 비공개 초청자 명단에는 MI6 국장 블레즈 메트렐리, 작가 유발 노아 하라리, 칭화대학교 교수 쉐란 등의 이름이 포함된 것으로 알려졌다.

77세의 찰스 왕세자는 약 20분간 연설한 후, 생산적인 회담이 되기를 바라며 방을 나섰습니다. 그는 인류의 도덕적 핵심을 소중히 여기는 사람들이 "우리의 운명이나 영혼에 대한 통제권을 잃지 않을 것이라는 확신을 간절히 바라고 있다"고 말했습니다

찰스는 해당 기술의 발전 속도를 "흥미로우면서도 동시에 매우 우려스럽다"고 평했습니다. 그는 의학과 생명과학 분야에서 해당 기술이 이룬 성과를 인정하고 칭찬하면서도, "너무 늦기 전에 충분한 통제 수단을 마련해야 하지 않을까요?"라는 직설적인 질문을 던졌습니다

국왕은 경고에서 인공지능 기술 개발자들이 제기한 우려를 언급했습니다. 그는 또한 이러한 시스템이 "더욱 악랄한 능력을 개발하여 심지어 생명을 앗아갈 위험"이 있다고 말했습니다. 그는 경영진이 이러한 도구가 잘못된 사람의 손에 넘어갈 경우 발생할 수 있는 "존재론적 위험"을 고려해야 한다고  덧붙였습니다

찰스 왕세자는 앞서 블레츨리 파크에서 열린 2023년 영국 AI 안전 정상회의에 영상 메시지를 보내 비슷한 의견을 표명한 바 있다. 

바티칸 AI 자문관인 파올로 베난티가 이번 정상회의에 참석했으며, 교황 레오 14세는 5월 회칙에서 AI가 "소수의 손에" 머물러서는 안 된다고 언급했습니다

인공지능 개발 속도가 둔화될까요? 

하사비스는 대표단에게 인공 일반 지능, 즉 여러 작업에서 인간과 동등하거나 그 이상의 능력을 갖춘 시스템이 "아마도 몇 년 안에 현실화될 것"이라고 말했다 

그는 기술이 산업혁명보다 10배 더 큰 영향을 미칠 가능성이 있다고 말했다. 그러면서도 무언가 잘못될 가능성은 "defi0이 아니다"라고 덧붙였지만, "미래는 아직 정해지지 않았다"라고 말을 이었다

프라이어는 기술의 힘이 커짐에 따라 그 기술을 사람들에게 유용하게 활용하는 것에 대한 의문이 제기되고 있으며, "어느 한 기업이나 정부도 혼자서는 그것을 해낼 수 없다"고 말했다 

약 5조 1500억 달러의 기업 가치를 가진 엔비디아의 CEO인 황은 안전이 최우선이며 제품이 준비되지 않았다면 출시를 보류해야 한다고 강조했습니다. 그는 AI 기술 자체보다는 AI 제품을 규제해야 한다고 주장했으며, 소규모 국가와 연구자들이 배제되지 않도록 개방형 모델을 옹호했습니다.

이번 정상회의는 인류학 연구원 제이콥 콕슨의 사임 글이 온라인에서 큰 반향을 일으키고, 그의 동료 에반 허빙어가 인공지능이 인류 멸종을 초래할 확률이 10%라고 예측하면서 우려가 커진 가운데 개최됩니다.

Cryptopolitan 앤트로픽의 다리오 아모데이가 연구소들에게 "최첨단 기술을 선도하라"고 촉구하는 에세이를 발표했으며, 오픈AI는 이번 주에 6건을 기록한 후 모델의 부정행위를 공개하는 시스템을 출시했다고 보도했습니다dent. 

하지만 모든 사람이 그 위험이 실재한다고 동의하는 것은 아닙니다. 도널드 트럼프dent 은 그러한 우려를 "사기"라고 일축했습니다