발라지는 AI가 유일신론적이지 않고 다신론적이라고 말합니다. 즉, 모든 것을 지배하는 하나의 초지능 시스템이 있는 것이 아니라, 각기 다른 세력의 지원을 받는 여러tronAI가 존재한다는 것입니다.
그의 말에 따르면, "우리는 단일하고 전능한 모델이 아니라, 다신론적인 인공지능을 경험적으로 관찰하고 있다." 이는 하나의 인공 일반 지능(AGI)이 세상을 종이 클립으로 만들어 버릴 것이라는 환상을 불식시킨다. 우리가 마주하는 것은 하나의 지배적인 세력이 아니라, 다양한 인간/인공지능 조합 간의 균형이다.
그는 현재 AI는 "중간 단계"에서만 작동한다고 말합니다. AI가 처음부터 끝까지 전체 작업을 처리하지는 못한다는 것입니다. 여전히 양쪽 끝에 사람이 필요합니다. 한 사람은 AI에 입력을 제공하고, 다른 한 사람은 AI의 출력 결과를 확인해야 합니다.
그래서 실질적인 비용과 노력은 모두 주변부, 즉 안내 및 검증 작업으로 옮겨갔습니다. 인공지능이 프로세스의 핵심 속도를 높여주지만, 기업들은 이제 바로 이 부분에 투자를 집중하고 있습니다.
AI는 당신을 더 똑똑하게 만들어주지만, 이미 똑똑한 사람에게만 해당됩니다
발라지는 그것을 인공 지능이라고 부르지 않고, 증폭 지능이라고 부릅니다. AI는 스스로 행동하지 않고, 완전한 에이전트 기능을 갖추지 못하며, 장기적인 목표를 설정하지 못하고, 자체 출력을 검증할 수도 없기 때문입니다. 그는 "지시를 내리고, 검증하고, 시스템을 통합하는 데 많은 노력을 기울여야 합니다."라고 말했습니다. 따라서 AI의 유용성은 사용자의 지능에 달려 있습니다. 잘못된 지시를 내리면 잘못된 결과를 얻게 되는 것입니다.
그는 또한 AI가 당신을 대체하는 것이 아니라, 당신이 더 많은 일을 할 수 있도록 도와줄 뿐이라고 말합니다. AI를 이용하면 그럴듯한 UI 디자이너나 게임 애니메이터처럼 보일 수는 있지만, 전문가 수준의 결과물을 기대해서는 안 됩니다. AI는 당신을 평균 수준으로 만들어줄 뿐, 탁월하게 만들어주지는 않습니다. 진정한 전문가의 손길이 필요하다는 것입니다.
차지하는 또 다른 역할이 있는데 , 바로 이전 버전의 AI가 담당하던 역할입니다. Midjourney는 Stable Diffusion을 워크플로에서 밀어냈고, GPT-4는 GPT-3의 자리를 차지했습니다. 발라지의 말처럼, "AI는 당신의 일자리를 빼앗는 것이 아니라, 이전 AI의 일자리를 빼앗는 것입니다." 기업들이 이미지 생성이나 코드 생성과 같은 워크플로에 AI를 위한 공간을 마련해 놓으면, 그 공간은 계속해서 채워집니다. 단지 더 새롭고 더 나은 모델에게 넘겨질 뿐입니다.
그는 또한 AI가 텍스트보다 시각적인 요소에 더 뛰어나다고 말합니다. 인간은 방대한 코드나 긴 문단을 검증하는 것보다 그림을 판단하는 것이 더 쉽습니다. 발라지는 "사용자 인터페이스와 이미지는 사람의 눈으로 쉽게 검증할 수 있습니다."라고 말합니다. 텍스트의 경우, 사람이 정확성을 확인하는 데는 시간과 비용이 더 많이 듭니다.
암호화 기술은 인공지능이 할 수 있는 것과 할 수 없는 것을 제한합니다
발라지는 인공지능과 암호화폐의 작동 . 인공지능은 확률적이며 패턴을 기반으로 추측합니다. 하지만 암호화폐는 결정론적이며, 증명 가능한 수학적 원리에 기반합니다. 따라서 암호화폐는 인공지능이 쉽게 넘을 수 없는 경계가 됩니다.
AI는 캡차를 해독할 수는 있지만 블록체인 잔액을 위조할 수는 없습니다. "AI는 모든 것을 가짜로 만들지만, 암호화폐는 그것을 다시 진짜로 만듭니다."라고 그는 말합니다. AI는 간단한 방정식을 풀 수 있을지 몰라도 암호화 방정식은 여전히 AI의 접근을 막습니다.
이미 킬러 AI의 한 버전이 존재합니다. 바로 드론이죠. 발라지 교수는 "모든 국가가 드론 개발에 열을 올리고 있다"고 말합니다. 위협이 되는 것은 이미지 생성기나 챗봇이 아니라 자율 무기입니다. AI가 현실 세계에 미치는 영향이 이미 치명적인 영역이 바로 이 분야입니다.
그는 AI가 중앙집권화되는 것이 아니라 분산화되고 있다고 주장합니다. 현재 AI 기업은 한두 개의 거대 기업이 아니라 수없이 많습니다. 좋은 도구를 갖춘 소규모 팀도 많은 일을 해낼 수 있습니다. 그리고 오픈소스 모델들은 빠르게 발전하고 있습니다. 따라서 막대한 예산이 없더라도 소규모 그룹이tronAI 시스템을 구축할 수 있습니다. 이는 권력이 한 곳에 집중되는 것이 아니라 분산되는 현상입니다.
발라지는 인공지능이 많을수록 항상 좋다는 생각에도 반대합니다. 그는 이상적인 인공지능의 양은 0도 아니고 100%도 아니라고 말합니다. "인공지능이 0%면 느리고, 100%면 허술하다"는 것입니다. 진정한 가치는 그 중간에 있습니다. 인공지능이 너무 적으면 뒤처지고, 너무 많으면 품질이 떨어집니다. 그는 이를 경제학의 개념인 래퍼 곡선에 비유하는데, 이 곡선은 극단적인 상황 사이에 최적의 지점이 있다는 것을 의미합니다.
마지막 논증 그는 오늘날의 시스템이 신과 같은 기계가 아니라 제약된 인공지능인 이유를 설명합니다. 그는 이를 네 가지 유형의 한계로 분류합니다.
- 경제적 측면: 모든 API 호출에는 비용이 발생합니다. 대규모 AI 사용은 무료가 아닙니다.
- 수학적matic: 인공지능은 혼돈 문제나 암호 문제를 해결할 수 없다.
- 실질적인 측면: 결과를 확인하고 검증하려면 여전히 사람의 개입이 필요합니다. AI는 모든 작업을 단독으로 완료할 수 없습니다.
- 물리적 측면: AI는 스스로 현실 세계의 데이터를 수집하지 않습니다. 사람처럼 주변 환경을 감지하거나 해석할 수 없습니다.
수도 있다고 말하며 이야기를 마무리합니다 . 미래의 연구자들은 시스템 1 사고(인공지능처럼 빠르고 직관적인 사고)와 시스템 2 사고(기존 컴퓨팅처럼 논리적이고 신중한 사고)를 융합할 수 있을지도 모릅니다. 하지만 지금은 그저 이론일 뿐입니다. 여전히 해결되지 않은 문제입니다. 모든 것을 아는 인공지능은 없습니다. 단지 명령대로 작동하고 지속적인 검증이 필요한 도구들(비싸고, 한계가 있으며, 경쟁이 치열한 도구들)만 있을 뿐입니다.
