비탈릭은 인공지능이 인류를 약화시키는 것이 아니라 오히려 강화해야 한다고 경고합니다

Ethereum 공동 창립자 비탈릭 부테린은 인공지능(AI)의 신중한 개발을 촉구하며, AI는 인류를 더욱tron만드는 데 도움이 되어야 하며, 사람들의 통제권을 빼앗는 시스템을 만들어서는 안 된다고 말했습니다.

비탈릭 부테린은 인공지능의 미래 방향에 대해 글을 썼습니다. 이더리움 공동 창립자인 그는 일련의 게시물을 통해 인공 Ethereum 인류를 약화시키는 것이 아니라 오히려 강화해야 한다는 점을 분명히 했습니다. 이

인공지능은 인간을 도와야지, 인간을 대체해서는 안 됩니다

그는 "제대로 설계되지 않은 AI 시스템은 사실상 통제 불가능하고 스스로 복제하는 존재를 만들어낼 수 있다"고 경고했다

비탈릭 부테린은 "인공지능이 잘못되면dent 복제하는 새로운 형태의 지적 생명체가 생겨난다"고 썼습니다. "인공지능이 제대로 구현되면 인간 정신을 위한 메카닉 슈트가 된다. 후자 없이 전자만 구현한다면 인간의 무력화가 영구적으로 진행될 위험이 있다. 후자를 구현한다면 초지능적인 인간 문명이 번성할 것이다."

그는 인공지능이 인간의 사고력과 창의력 등을 향상시키는 "메카 슈트"처럼 사용자의 힘을 강화해야 한다고 믿습니다. 반면, 인간의 감독 없이 자율적으로 작동하는 인공지능 시스템은 우리가 만들어낸 기술에 대한 통제력 상실로 이어질 수 있다는 위험성을 경고합니다.

부테린은 의사결정 과정 개선을 위한 집단적 수단으로 "정제된 인간의 판단력"을 활용해야 한다고 제안했습니다. 그는 이를 통해 고품질의 인간 의사결정 과정을 모방하면서도 인간보다 효율적으로 작동하는 시스템을 구축해야 한다고 설명했습니다.

따라서 인간은 인공지능의 역량에서 얻는 이점을 누리면서도 통제력을 유지할 수 있다.

그는 후자는 정제된 인간의 판단을 통해 집단적 차원에서 이루어질 수 있다고 설명했습니다. 즉, 인간의 집단 지성은 AI가 인간의 능력을 대체하는 것이 아니라 증폭시키는 데 도움을 줄 수 있는 지침을 제공할 수 있다는 것입니다.

통제되지 않은 AI 시스템의 위험성

부테린은 이어서 이러한 실시간 비디오 생성 소프트웨어와 같은 새로운 AI 도구는 실제로 사용자에게 권한을 부여하는 AI 시스템의 한 예인 반면, "텍스트를 이미지로 변환하는 모델과 같은 '수동적인 시스템' 방식은 사용자의 영향력이 매우 미미하다"고 설명했습니다

"즉시 응답하고 기다리는 방식은 통하지 않습니다. 실시간으로 끊임없이 조준하고 조정해야 합니다."라고 그는 말하며 인간과 AI 간의 더욱 긴밀하고 상호적인 관계를 제안했습니다.

이어서 그는 인공지능 에이전트, 즉 인간의 개입 없이 작업을 수행하는 프로그램에 대해 이야기했습니다. 그는 두 가지 유형을 설명했는데, 하나는 장기적이고 복잡한 계획을 수립하는 것이고, 다른 하나는 GUI를 대체하는 챗봇과 같은 간단한 인공지능 도구였습니다. 후자에 대해 그는 "챗봇은 모든 것의 인터페이스로서 GUI를 대체합니다. 후자는 정말 훌륭합니다!"라고 말했습니다

궁극적으로 비테린은 인류의 발전을 위해 책임감 있는 AI 개발을 옹호합니다. 그는 통제되지 않고 무분별하게 자율 시스템을 향해 나아가는 것을 반대하며, AI를 인간의 능력을 향상시키는 도구로 바라봅니다. 그는 "제대로만 개발된다면 AI는 초지능 문명의 번영을 이끌어낼 수 있다"고 생각합니다