발라지 스리니바산, AI 를 우리 시대에 가장 경제적 가치가 높은 발명품으로 지목

발라지는 AI가 단일신교(monoteistic)가 아닌 다신교(polytheistic)적이라고 말합니다. 즉, 모든 것을 지배하는 하나의 초지능 시스템이 있는 것이 아니라, 다양한 주체에 의해 뒷받침되는 수많은 강력한 AI들이 존재한다는 뜻입니다.

그의 표현을 빌리면 “우리는 단일한 전능한 모델이 아니라 다신교적 AI를 경험적으로 관찰합니다.” 이는 AGI 하나가 세상을 클립으로 만들어버린다는 환상을 무너뜨립니다. 우리가 가진 것은 하나의 지배적 힘이 아니라, 많은 인간/AI 조합 간의 힘의 균형입니다.

그는 현재 AI가 ‘중간-중간’ 영역에서만 작동한다고 말합니다. 시작부터 끝까지 전체 작업을 처리하지 못합니다. 여전히 양쪽 끝에 사람이 필요합니다. 하나는 AI에 프롬프트를 입력하고, 다른 하나는 그 출력을 검토하는 역할을 합니다.

따라서 실제 비용과 노력이 가장자리로 이동했습니다: 프롬프트 작성과 검증이 바로 그곳입니다. AI가 프로세스의 중심부를 가속화함에도 불구하고, 기업들은 지금 이 부분에 자금을 투입하고 있습니다.

AI makes you smarter, but only if you are already smart

발라지는 이를 인공지능(Artificial Intelligence)이라고 부르지 않습니다. 그는 증강 지능(Amplified Intelligence)이라고 부릅니다. AI는 자체적으로 행동하지 않으며, 완전히 자율적이지 않고, 장기적인 목표를 설정하지 않으며, 자신의 출력을 검증할 수 없기 때문입니다. “프롬프트 작성, 검증, 시스템 통합에 많은 노력을 기울여야 합니다.”라고 그는 말했습니다. 따라서 AI의 유용성은 사용자의 지능에 달려 있습니다. 잘못된 지시를 주면 잘못된 결과가 나옵니다.

그는 또한 AI가 사람을 대체하는 것이 아니라, 더 많은 일을 할 수 있도록 도와준다고 말합니다. 이를 통해 당신은 어느 정도 괜찮은 UI 디자이너나 게임 애니메이터처럼 위장할 수 있습니다. 하지만 전문가 수준의 품질을 기대하지 마십시오. AI는 당신을 훌륭하게 만드는 것이 아니라 평균적으로 충분하게 만들어줍니다. 진정한 품질을 위해서는 여전히 전문가가 필요합니다.

There’s another job it does take, and that’s the job of the last version of itself. Midjourney pushed Stable Diffusion out of the workflow. GPT-4 took GPT-3’s spot. As Balaji puts it, “AI doesn’t take your job, it takes the job of the previous AI.” Once companies create a space for AI in a workflow, like image creation or code generation, that space stays filled. It just gets handed off to the newer, better model.

그는 또한 AI가 텍스트보다 시각적 요소에서 더 뛰어나다고 말합니다. 사람의 눈으로 코드의 벽이나 여러 단락의 텍스트를 검증하는 것보다 이미지를 판단하는 것이 훨씬 쉽기 때문입니다. 발라지는 “사용자 인터페이스와 이미지는 인간의 눈으로 쉽게 검증할 수 있다”고 말합니다. 반면 텍스트의 경우 정확성을 확인하는 데 시간이 더 많이 들고 비용도 더 많이 듭니다.

Crypto limits what AI can and can’t do

발라지는 AI의 작동 방식과 암호화폐의 작동 방식 사이에는 명확한 차이가 있다고 지적합니다. AI는 확률적이며 패턴을 기반으로 추측하지만, 암호화폐는 결정론적으로 동작하며 엄격하고 검증 가능한 수학적 원리에 기반합니다. 따라서 암호화폐는 AI가 쉽게 넘보기 어려운 경계선으로 작용합니다.

AI는 캡차를 뚫을 수 있지만, 블록체인 잔액을 위조할 수는 없습니다. 그는 “AI는 모든 것을 가짜로 만들지만, 암호화폐는 다시 현실을 만들어준다”고 말합니다. AI는 간단한 방정식을 해결할 수 있지만, 암호학적 방정식은 여전히 AI를 막아냅니다.

이미 킬러 AI 버전이 존재합니다. 그것은 드론입니다. 발라지는 “모든 국가가 이를 추구하고 있다”고 말합니다. 위협이 되는 것은 이미지 생성기나 챗봇이 아니라 자율 무기입니다. 이것이 바로 AI의 실제 세계 영향력이 이미 치명적인 영역입니다.

그는 AI가 중앙집권화가 아닌 분산화되고 있다고 주장합니다. 현재는 한두 개의 거대 기업이 아닌 수많은 AI 기업들이 존재합니다. 좋은 도구를 갖춘 소규모 팀도 많은 일을 해낼 수 있습니다. 그리고 오픈소스 모델은 빠르게 발전하고 있습니다. 따라서 막대한 예산이 없더라도 소규모 그룹이 강력한 AI 시스템을 구축할 수 있습니다. 이는 권력을 집중시키는 것이 아니라 분산시킵니다.

발라지 또한 AI가 많을수록 항상 더 낫다는 생각도 거부합니다. 그는 이상적인 양이 0%도, 100%도 아니라고 말합니다. “AI 0%는 느리지만, AI 100%는 저질의 결과물이다.” 진정한 가치는 그 사이에 존재합니다. AI가 너무 적으면 뒤처지게 되고, 너무 많으면 품질이 무너집니다. 그는 이를 라퍼 곡선(Laffer Curve)에 비유하는데, 이는 경제학에서 극단 사이의 최적 지점이 존재한다는 개념입니다.

마지막 주장에서 그는 오늘날의 시스템이 신적인 존재가 아닌 제약된 AI임을 설명하며, 이를 네 가지 한계 유형으로 분류합니다:

• 경제적: 모든 API 호출에는 비용이 발생합니다. 대규모로 AI를 사용하는 것은 무료가 아닙니다.
• Mathematical: AI can’t solve chaotic or cryptographic problems.
• 실용적: 여전히 사람이 프롬프트를 작성하고 결과를 검증해야 합니다. AI 혼자서 전체 작업을 완료할 수 없습니다.
• 물리적: AI는 스스로 현실 세계의 데이터를 수집하지 못합니다. 인간의 것처럼 환경을 감지하거나 해석할 수 없습니다.

He ends by saying these limits might be removed later. It’s possible that future researchers can merge System 1 thinking (fast and intuitive, like AI) with System 2 thinking, which is more logical and careful, like traditional computing. But right now, that’s just theory. It’s still an open problem. There is no all-knowing AI. There are just tools (expensive, limited, competitive tools) that do what they’re told and need constant checking.