비탈릭 부테린, AI는 인간을 무력화시키지 않고 강화해야 한다고 경고

이더리움 공동 창립자 비탈릭 부테린은 AI의 신중한 개발을 촉구하며, AI가 인간을 더 강하게 만드는 데 도움이 되어야지 사람들이 통제권을 잃게 만드는 시스템을 만들어서는 안 된다고 말했습니다.

부테린은 인공지능(AI)이 나아가고 있는 미래 방향성에 대해 작성했습니다. 일련의 게시글에서 이더리움 공동 창립자는 AI가 인간을 무력화시키지 않고 오히려 인간을 강화해야 한다는 점을 명확히 했습니다.

AI는 인간을 돕고 장악하지 않아야 함

그는 "잘못 설계된 AI 시스템은 통제 불가능하고 자기 복제하는 존재를 만들어낼 수 있다"고 경고했습니다.

부테린은 "잘못된 AI는 새로운 형태의 독립적인 자기 복제 지능형 생명을 만들고 있다. 올바른 AI는 인간 정신을 위한 메카 슈트다. 전자를 후자 없이 수행하면 영구적인 인간의 무력화 위험이 있다. 후자를 수행하면 번성하는 초지능 인간 문명이 탄생한다"고 썼습니다.

그는 AI가 인간의 사고, 창의성 등을 보완해야 한다고 믿으며, 이는 사용자의 힘을 강화하는 '메카 슈트'와 유사하다고 설명합니다. 반면 그는 인간의 감독 없이 자율적으로 작동하는 AI 시스템의 위험성을 지적하며, 이는 결국 우리가 만든 기술에 대한 통제력 상실로 이어질 수 있다고 주장합니다.

부테린은 또한 의사결정 개선을 위한 집단적 수단으로 '압축된 인간 판단(distilled human judgment)'의 사용을 제안합니다. 그는 이를 인간 고유의 고품질 의사결정 과정을 모방하지만 인간보다 더 효율적으로 수행할 수 있는 시스템을 만드는 것으로 설명했습니다.

따라서 인간은 AI의 기능에서 얻는 혜택을 누리면서 통제를 유지할 수 있습니다.

그는 이것이 집단적 수준에서 압축된 인간 판단을 통해 이루어질 수 있다고 설명하며, 집단적 인간 지능은 AI가 인간의 능력을 대체하는 것이 아니라 증폭하도록 돕는 지침을 제공할 수 있다고 덧붙였습니다.

통제되지 않는 AI 시스템의 위험성

부테린은 실시간 비디오 생성 소프트웨어와 같은 새로운 AI 도구 중에는 실제로 인간을 강화하는 예가 있는 반면, '수동적 시스템' 방식(예: 텍스트-이미지 모델)은 사용자의 영향이 매우 미미한 방식이라고 명확히 했습니다.

그는 "프롬프트를 입력하고 기다리는 방식이 아니라, 목표 설정과 조정을 실시간 기반으로 계속 해야 한다"며, 인간과 AI 간에 더 밀접하고 강화적인 역동성을 제안했습니다.

그런 다음 그는 인간의 개입 없이 작업을 수행할 AI 에이전트에 대해 언급했습니다. 그는 두 가지 유형을 설명했는데, 하나는 장기적이고 복잡한 계획을 수행하는 유형이고, 다른 하나는 GUI(그래픽 사용자 인터페이스)를 대체하는 채팅봇과 같은 간단한 AI 도구입니다. 그는 후자에 대해 "채팅봇이 모든 것의 인터페이스로서 GUI를 대체합니다. 후자는 훌륭합니다!"라고 말했습니다.

결국 부테린은 인간을 강화하기 위한 책임감 있는 AI 개발을 옹호합니다. 그는 통제되지 않고 방임된 자율 시스템으로의 추구를 지지하지 않으며, 대신 인간의 능력을 향상시키는 도구를 봅니다. 그는 "올바르게 수행된다면 AI는 번성하는 초지능 문명으로 이어질 수 있다"고 생각합니다.