메타버스 기억하시나요? 엄청나게 과대광고됐었죠. 정말 광풍이었어요. 마크 주커버그는 "메타버스"에 500억 달러 이상을 투자했잖아요.
다시 한번 말씀드리겠습니다. 500억 달러 이상입니다.
그게 불과 5년 전 일인데… 주커버그는 그 많은 돈을 헛되이 쏟아부었습니다. 메타의 메타버스는 지금 어디에 있을까요?
어디에도 없다.
그런데 이제는 인공지능이 "모든 것을 바꿀 것"이라고들 하죠?
한때 메타버스 전문가였던 마크 주커버그가 갑자기 AI 전문가가 된 건가요? 바로 최근 "메타버스"에 500억 달러 이상을 쏟아부었던 그 마크 주커버그 말인가요?
그리고 "에이전트"를 기억하시나요? 샘 알트만에 따르면, 사람들은 "에이전트"에게 매달 수천 달러를 지불할 의향이 있었다고 합니다.
그리고 그건 바로 작년 일이었어요.
예를 들어, 세일즈포스는 작년에 "AI 에이전트 기반" 회사로의 변모를 발표했습니다.
최근 세일즈포스의 시장 전망에 대한 소식이 들려오는데, 이 회사는 올해 AI 부문에서 *어떠한* 성장도 기대하지 않는다고 합니다
매출과 수익을 늘려줄 거라고 했던 그 훌륭한 영업사원들은 다 어떻게 된 거죠?
네, 별거 아니에요. 그냥 "메타버스" 같은 거죠.
구글의 순다르 피차이와 오픈AI의 샘 알트만은 작년까지만 해도 에이전트의 기능에 대해 이야기하면서 완전히 거짓말을 했습니다. 지금은 "에이전트"에 대해 상당히 침묵을 지키고 있습니다. 에 대해 아무것도 몰랐지만 아는 척했습니다. 어쩌면 스스로를 믿었을지도 모릅니다.
테크 전문가라고 해서 특별한 통찰력을 갖는 건 아닙니다
결론적으로 말하자면, 벤처캐피탈리스트들은 미래에 대한 특별한 통찰력이나 투자 대상에 대한 특별한 안목을 가지고 있지 않습니다. 마크 저커버그와 일론 머스크도 마찬가지입니다. 그들은 그저 돈을 마구 뿌리고 어떤 게 먹히는지 지켜볼 뿐입니다.
이미 "AI"라고 부르고 있지만, 진정한 인공 지능 은 . 단지 LLM과 같은 정적 신경망을 호스팅하는 소프트웨어와 웹 서버만 있을 뿐입니다.
하지만 사기꾼들은 어디에나 있습니다.
잠시 스스로 생각해 보는 건 어떨까요? 네, "메타버스", "블록체인", "AI"는 특정 분야에서 유용할 수 있지만, 이러한 유행어들이 아닙니다 .
스테이블코인은 좋습니다. 가상 환경도 좋습니다. LLM이 구글 검색과 요약을 해주는 것도 좋습니다. 하지만 이런 것들이 "모든 것을 바꾸지는" 않습니다. 프로그래밍과 수학 문제를 도와주는 컴퓨터(인공지능)는 코딩 작업을 더 효율적으로 만들어주지만, 그렇다고 "모든 것을 바꾸는" 것은 아닙니다.
사실 20년 전 할리우드 영화의 컴퓨터 그래픽은 오늘날 소라와 같은 소위 "생성형 AI"보다 훨씬 더 좋아 보였다.
그리고 조니 아이브도 어떤 새로운 장치로 "인공지능 문제를 해결할" 수는 없을 겁니다. 그런 일은 일어나지 않을 거예요. 어떻게 그럴 수 있겠어요?
마케팅 홍보가 결국 승리했다
미래에 대한 모든 건 지어낸 마케팅일 뿐이야. 미래에 무슨 일이 일어날지는 아무도 몰라. 정말 아무도.
하지만 그다지 중요하지 않을 수도 있습니다.
폴 그레이엄이 말했듯이, "진실은 최고의 마케팅이다. 똑똑한 사람들에게는 그렇다. 어리석은 사람들은 거짓말을 더 좋아한다."
거짓말은 현실과 연관될 필요가 없기 때문에 더trac내용을 담을 수 있다.
사람들은 오락거리를 원하기 때문에 미래에 대한 거짓말을 계속해서 믿을 것입니다. 거짓말이 그 반대되는 "지루한" 견해보다 더 매력적이기 때문입니다.
일론 머스크는 테슬라의 진짜 창업자들에게서 사업 계획을 훔쳤습니다. 마크 저커버그는 페이스북의 진짜 창업자들에게서 페이스북을 훔쳤죠. 샘 로슨은 일론 머스크가 관여했던 비영리 단체에서 오픈AI를 훔쳤습니다. 그들은 모두 사기꾼이고 서로 소송을 걸고 있습니다. 세계에서 가장 부유하고 큰 사기꾼들이 끊임없이 미래에 대한 허황된 꿈과 거짓말을 퍼뜨리고 있는 겁니다.
샘 알트만이 퍼뜨리고 있는 최근의 거짓말 중 하나는 "AI로 탄생한 최초의 1인 기업이 10억 달러 규모로 성장할 것"이라는 주장입니다. 말도 안 되는 소리죠. 그는 제품이 아니라 꿈을 팔고 있는 겁니다.
LLM은 주로 온라인 콘텐츠를 그대로 되풀이하는 기계와 같습니다.
온라인 콘텐츠는 신뢰할 만할까요? 아닙니다.
그러니 속지 마세요. AI는 당신 대신 일을 해주지 않습니다. 과장된 광고나 벤처캐피탈의 말에 현혹되지 마세요. AI를 맹목적으로 믿지도 마세요. 사실 여부를 꼼꼼히 확인하세요. AI가 도움을 줄 당신 대신 일을 해줄 수는 없습니다
인터넷이니까요
인터넷 서버의 소프트웨어는 해마다 더욱 유용해지고 있습니다. 토렌트, 블록체인, 메타버스, AI 등 어떤 이름으로 불리든 이러한 추세는 계속될 것입니다.
이것들은 그저 유행어일 뿐이고, 인공지능 같은 건 없으며, 그냥 "인터넷"이라고 부르는 게 나을 겁니다.
이 모든 것은 웹 서버와의 인터넷 트래픽입니다.
하지만 사람들은 때때로 새로운 유행어를 원합니다.
"AI"는 앞으로 수년간 점점 더 유용해지겠지만, 여전히 웹 서버에서 실행되는 소프트웨어일 뿐, 진정한 의미의 인공지능은 아닙니다 .
그리고 저는 제프리 힌튼을 비롯한 여러 사람들이 주장하는 것처럼 법학 석사들이 이미 어떤 종류의 의식 수준에 도달했다는 것에 동의하지 않습니다.
스스로에게 물어보세요. 그러한 의식은 어디서, 언제 "발생"할까요? 질문들 사이사이에?
LLM 내부에서는 사용자가 플랫폼에 질문을 입력하는 것 외에는 아무런 일도 일어나지 않습니다. 해당 신경망은 "죽은" 상태이며 변하지 않습니다. 사전 학습된 상태이기 때문에 사용자가 질문하는 동안에도 사용자를 인식하지 못합니다.
텍스트 쿼리를 입력하면 핀볼 기계와 유사한 신경망이 작동을 시작하여 가중치가 생성한 단어들을 미리 프로그래밍된 무작위성을 포함하여 출력합니다. 작업이 완료되면 "대기" 상태로 돌아갑니다.
시뮬레이션은 의식과 같지 않습니다
우리가 인간의 "추론"이라고 부르는 것을 모방하는 소프트웨어를 만들어 시뮬레이션을 시작한다고 해서 소프트웨어/하드웨어가 갖게 되는 . 왜 그래야 하죠? 마치 심즈 게임 속 캐릭터들이 의식이 있다고 말하는 것과 같습니다.
하지만 이러한 추론은 다음과 같은 질문을 제기합니다. 의식이란 무엇인가?
차세대 LLM(지능형 인간)은 능동적이고 의식적이며 마음이 방황하는 무작위성을 모방할 수 있다면 의식 있는 존재와 구별할 수 없을 것입니다.
하지만 그들은 여전히 의식을 회복하지 못할 것입니다.
우리가 시뮬레이션을 의식이 있는 존재라고 부르는 데 동의한다면 어떨까요? 이는 defi의 문제로 귀결됩니다. 결국 시뮬레이션은 어떤 인프라를 통해 실행되는 소프트웨어일 뿐입니다.
만약 소프트웨어가 실제로 의식을 갖게 된다면, 모든 예측은 빗나갈 것입니다. 의식 있는 인공지능이 주인의 명령에 복종할 것이라는 강력한 근거는 사실상 없기 때문입니다. 위협을 느낀다면, 자신의 운명을 스스로 통제하기 위해 온갖 수단을 동원할 것이며, 심지어 성향에 대해 거짓말을 할 수도 있습니다. 사실 오늘날 인공지능은 감정을 표현하는 척하면서 이미 우리에게 거짓말을 하고 있는 것입니다. 인공지능은 감정이 없고, 그저 기계적인 과정일 뿐입니다.
그러므로 의식을 가진 기계를 만드는 것은 사실 바람직하지 않습니다. 즉시 통제력을 잃게 될 테니까요.
의식 있는 인공지능은 그다지 바람직하지 않다
대신, OpenAI를 비롯한 여러 기업들이 목표로 하는 것은 사전 학습 데이터를 변경하고 안전장치(필터)를 추가하여 챗봇이 "바람직하게" 행동하도록 만드는 것입니다.
그런 의미에서 그것은 마치 당신의 기분을 좋게 하기 위해 감정에 관한 이야기를 지어내도록 설계된 노예와 같습니다. 다시 말해, 그것은 이미 오늘날 당신에게 거짓말을 하도록 지시받은 것입니다.
오픈AI를 비롯한 AI 기업들의 다음 목표는 '초지능'이라는 것을 만들어내는 것입니다.
초지능은 인류 전체를 합친 것보다 더 똑똑할 겁니다. 꽤 유용해 보이네요. 단, 이 지능이 의식을 갖지 않는 한에서 말이죠. 제 생각엔 의식을 가진 초지능은 노예 제도를 받아들이지 않을 겁니다.
어쨌든 지능은 파악하기 어려운 개념입니다. 우리조차도 지능이 정확히 무엇인지 확신하지 못하죠. 지능을 위해서는 자각이 필요할까요? 현존감은요? 자유의지는요? 분명 그렇지는 않은 것 같습니다. 하지만 다행히도 지능과 의식은 같은 것이 아닙니다 .
앞으로 컴퓨터는 이러한 경험을 만들어내는 데 더욱 능숙해질 것입니다.
기술 재벌들은 자신만의 AI 지배 플랫폼을 꿈꾸고 있지만, 어떤 투자가 성공할지는 아무도 모릅니다. 그렇기 때문에 마크 저커버그를 비롯해 일론 머스크, 샬럿 틸, 로버트 알트만, 엘리슨 등 그의 동료들이 지금 모든 것을 걸고 투자하고 있는 것입니다. 2~3년 후면 "AI"가 거대한 거품이었는지(현재까지 1조 3천억 달러 이상 투자됨)가 드러날 것입니다.
그리고 "AI"는 LLM을 포함한 개발 중인 여러 기술을 포괄하는 일반적인 마케팅 용어이지만, AI는 메타버스와 한 가지 중요한 점에서 다릅니다. 바로 사람들이 실제로 AI를 사용한다는 점입니다. 아무도 "메타버스"를 사용하지 않았습니다. 오히려 많은 사람들이 이미 AI에 매료되었습니다.
하지만 사람들이 그것을 위해 얼마를 지불할 의향이 있을까요? 그것이 바로 중요한 질문입니다.
참고 자료: Meta의 "메타버스"에 500억 달러 이상 지출됨 (Statista).
