일론 머스크, AI가 인간을 멸종시킬 확률 20%라고 주장

일론 머스크는 AI가 인간을 압도하는 것에 대해 너무 걱정하지 않습니다. 그에 따르면, AI가 가까운 미래에 인간을 멸종시킬 확률은 단 20%에 불과합니다. 

금요일에 공개된 새로운 팟캐스트에서 조 로건과의 인터뷰 중 머스크는 "AI와 관련된 좋은 결과의 확률은 약 80%입니다."라고 말했습니다.

그가 AI의 위험성에 대해 이야기한 것은 이번이 처음이 아닙니다. 이전에 그는 AI가 인간에 반기를 들 확률이 10%에서 20%라고 언급했습니다. 

최근 팟캐스트에서 그는 또한 향후 2년 내에 AI가 인간 지능을 초월할 것이라고 말했습니다. 그는 구체적으로 2029년 또는 2030년까지 AI가 "모든 인간을 합친 것보다 더 똑똑해질" 것이라고 언급했습니다.

이는 그의 이전 예측과 일치하지만, 예측된 시기는 이제 더 뒤로 밀렸습니다. 작년, 노르웨이 중앙은행(Norges Bank) 총재 니콜라이 탕겐과의 또 다른 인터뷰에서 그는 2025년 말까지 AI가 인간 지능을 초월할 확률이 약간 있다고 말했습니다.

노르웨이 국부펀드 대표 @NicolaiTang1와의 대화 https://t.co/ZCR7FrsR0m

— 일론 머스크 (@elonmusk) 4 월 7, 2024

이는 그의 AI에 대한 근본적인 전망이 변하지 않았다는 것을 보여줍니다. 그는 인터뷰에서 "나는 항상 AI가 인간보다 훨씬 똑똑해질 것이며 존재적 위험이 될 것이라고 생각했습니다."라고 말했으며, 이것이 현실이 되고 있습니다. 

다른 전문가들도 AI 멸종에 대해 유사한 관점을 가지고 있습니다

AI의 '할아버지'이자 노벨상 수상자인 제프리 힌튼에 따르면, AI가 향후 30년 내에 인간 멸종을 초래할 확률은 10%입니다. 그는 BBC 라디오 4 인터뷰에서 "만약 그렇다면요. 보세요, 우리는 이전에 우리보다 더 지능적인 것들을 다뤄본 적이 없습니다."라고 말했습니다.

그는 더 덧붙여 "더 지능적인 것이 덜 지능적인 것에 의해 통제되는 사례를 얼마나 알고 있습니까? 매우 드문 사례입니다. 어머니와 아기가 있습니다. 진화는 아기가 어머니를 통제할 수 있도록 많은 노력을 기울였지만, 제가 아는 유일한 사례는 그것뿐입니다."라고 말했습니다.

어떤 의미에서 제프리는 고급 인공지능 시스템과 비교할 때 인간을 '세 살짜리' 유모아에 비유합니다. 

마찬가지로 토론토 대학교의 학술 강연에서 제프리 힌튼은 "제가 추측하기에는 그들이 장악할 것입니다. 그들은 사람들이 결코 가질 수 없었던 훨씬 더 높은 지능을 가질 것입니다,"라고 힌튼은 말했습니다.

한편, AI 안전 연구자이자 사이버 보안 디렉터인 로마얀 야말스키는 '파멸의 확률'이 99.999999%에 가깝다고 말합니다.

나는 99.999999%에 있습니다 https://t.co/vfe96PNbij

— Dr. Roman Yampolskiy (@romanyam) 3월 12, 2024

머스크는 "비영리 오픈 소스 AI"를 만들기 위해 오픈AI의 11명 공동 창립자 중 한 명이 되었을 때 AI 개발에 관여했으며, 이는 그가 "구글의 반대"라고 말한 것입니다. 그러나 오픈AI가 영리 기업으로 변모하는 다른 길을 택하면서 우선순위 불일치로 인해 그는 이후 회사를 떠났습니다.

그러나 작년, 머스크는 오픈AI를 상대로 두 가지 법적 조치를 취했습니다. 그는 첫 번째 소송을 취하했고, 두 번째 소송은 오픈AI가 영리 모델로 전환하고 마이크로소프트와 제휴함으로써 사명을 '배신'했다고 주장합니다. 

머스크는 AI 발전의 결과가 극도로 나쁘거나 좋거나 둘 중 하나일 것이라고 생각합니다

그는 조 로건에게 오픈AI가 어떻게 변했는지에 대해 '만족스럽지' 않아서 그로크를 만들었다고 공유했습니다. 그는 그로크를 "정치적으로 올바르지 않을지라도 진실을 추구하는 최대치의 AI"로 만들었습니다. 

이 AI는 핵전쟁을 피하기 위해 케이트лин 제너를 잘못 호칭하는 것이 괜찮은지, 또는 백인에 대한 인종차별이 괜찮은지와 같은 프롬프트에 응답하도록 훈련되었습니다.

머스크는 AI 발전이 '엄청나게 훌륭하거나' '엄청나게 나쁜' 결과가 될 것이라고 예측하며, 중간 정도의 결과는 볼 수 없다고 덧붙였습니다.

최근 머스크는 그로크 3의 출시를 발표했으며, 이는 코딩, 과학, 수학 등 다양한 벤치마크에서 오픈AI의 GPT-4o, 구글의 제미니, 딥시크의 V3, 앤트로픽의 클로드 3.5보다 더 나은 성능을 발휘한다고 주장됩니다.

출시 일주일 전, 일론 머스크는 두바이 세계 정부 정상회의에서 그로크 3을 '무서울 정도로 똑똑하다'고 언급했습니다. 마찬가지로 그로크 3 출시 발표회에서 그는 "그로크는 우주를 이해하기 위한 것입니다."라고 말했습니다. 

그러나 그로크 3의 베타 버전은 도널드 트럼프에 대한 사형을 제안하고 일론 머스크에 대한 비판을 검열하는 등 여러 실수를 범했습니다. xAI의 엔지니어링 책임자 이고르 바부슈킨은 이를 "그로크의 정말 끔찍하고 나쁜 실패"라고 언급했습니다.