- 부테린은 인간을 강화하고 인간의 주체성을 확장하는 AI 를 옹호합니다.
- 그는 AI 의 중앙집중적 통제를 경고하며 블록체인과 영지식 증명 (zero-knowledge proofs) 을 활용한 분산형 오픈소스 AI 모델을 장려합니다.
- 부테린은 잠재적인 AI 지배력을 견제하고 소수 조직의 권력 집중을 방지하기 위해 보호 기술을 가속화할 것을 제안합니다.
이더리움 공동 창립자 비탈릭 부테린은 권력이 집중되고 인류의 생존이 위태로워지거나 회복 불가능한 디스토피아적 미래를 피하기 위해 인간이 통제하는 인공지능(AI)에 대한 대담한 계획을 공개했으며, 이러한 발생이 필요하다고 강조했습니다.
공동 창립자는 AI의 능력을 다르게. AI가 인간보다 더 강력할 수 있으며, 따라서 진화를 추진하고 여러 산업에서 최고의 혁신 관행을 이끌어낼 것이라고 믿습니다.
하지만 부테린은 여전히 AI가 너무 자율적이 되면 인간 이익과 심각한 갈등을 일으킬 수 있다고 우려합니다. 의도치 않게 방출된 힘으로서 인공지능은 인간 생명을 끝낼 수 있는 빠른 도약을 할 수 있습니다.
인공지능은 현재 매우 빠르게 발전하고 있으며 자체적인 목표를 가지고 있습니다. 그렇게 함으로써 일부에게는 두려움을 주지만 다른 이들에게는 잘 작동하는 사회를 만들 수 있습니다. 진화의 역사에서 이러한 패턴은 친숙하며 종종 비극적입니다.
현재 입법 논쟁에서 멀어 보일지라도, 이 미래는 AI로부터의 실존적 위험에 대한 비현실적이지 않은 가능성을 제공하는 설문 조사로 인해 타당성이 부여됩니다. 이러한 발견은 AI의 발전을 현명하게 안내할 수 있는 구조를 확립하는 것이 중요함을 강조합니다.
AI는 인류가 위대한 지적 업적을 달성할 수 있도록 힘을 실어줍니다
부테린 인간을 개별적으로 강화하고 위대한 지적 및 실용적 업적을 달성할 수 있는 도구로 봅니다. 이러한 접근 방식은 인간과 AI의 협력을 심화시키고 기술을 인간 대리권의 확장으로 간주합니다.
이러한 상황에서 뇌-컴퓨터 인터페이스(BCI)는 잠재적 이점을 가진 접근 방식으로 부상했습니다. BCI는 인간과 인공지능 간의 직접적인 신경 통신 스택을 제공하여 인간과 AI 간 교환의 지연 시간을 초에서 밀리초로 줄입니다.
이러한 발전은 인간의 결정이 통제권을 유지하고, 기술이 의미 있는 방식으로 사람들을 봉사하며, 자동화 시스템이 인간의 권한을 넘어 작동하지 않도록 보장할 수 있습니다. 이 분리 현상은 BCI에 의해 강화되고 있으며, 지능형 시스템이 인간 인지 기능과 더 많이 통합됨에 따라 자율성을 보호할 것입니다.
부테린은 또한 의사 결정 과정에서 AI 시스템에 대한 중요한 ‘압축된 인간 판단’의 존재를 강조합니다. 이는 군중의 지혜를 활성화하고 기계 행동을 유도할 수 있는 가능한 도덕적 입력을 제공함으로써 AI 행동을 조종하는 아이디어입니다. 또한 개발자들이 인간 판단을 AI 시스템에 삽입하여 기술이 사회적 규범과 기대에 더 가깝게 반영되도록 하는 것이 중요합니다.
권력 집중을 방지하기 위한 AI 분산화
부테린의 주장은 또한 AI 개발과 통제의 분산화에 기반합니다. 그는 AI 기술이 극단적인 권력 집중을 통제하게 되는 몇몇 대형 에이전트의 독점이 되는 상황을 경고합니다. 결과적으로 AI 개발 방향을 설정하는 권력은 사실상 소수의 개인에게만 남아 사회 전체에 해를 끼칠 수 있습니다.
블록체인과 영지식 증명(zero-knowledge proofs)은 분산화를 현실로 만드는 데 도움이 되는 기술의 예이며, 이는 커뮤니티 간 더 공정한 AI 개발을 위한 하나의 접근 방식이 될 수 있습니다.
이는 AI 연구를 민주화하고, 권력 축적을 제한하며, AI가 특정 것이 아닌 집단적 재료가 되도록 보장합니다.
부테린은 구체적으로 분산형 가속주의(decentralized Accelerationism)가 중앙 집중식 통제에 대항하여 개인 자율성을 방어하기 위한 기술의 빠른 개발이라고 명시합니다. 이는 강력한 AI 시스템. 그렇게 함으로써, 보호 기술의 개발은 조화된 사회보다 앞서야 합니다.
광범위한 영향력과 해결책 중심 사고의 보편적 경향을 지닌 부테린은 기술의 궤적에 대한 잠재적인 교정 필요성을 지적합니다. 이제 그는 연구자, 정책 입안자, 일반 대중을 포함한 모든 이해관계자들이 AI의 궤적을 형성하기 위해 적극적으로 협력할 것을 호소합니다.
기술 개발의 규제와 거버넌스를 언급하며, 이러한 우선순위의 핵심은 AI 주변의 윤리적 가이드라인과 규제 프레임워크의 필요성에 있습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
Nellius Irene
Nellius는 비즈니스 관리 및 IT 학사 학위를 소지하고 있으며, 암호화폐 산업에서 5 년간의 경력을 쌓았습니다. 또한 비트코인 다다 (Bitcoin Dada) 를 졸업했습니다. Nellius 는 BanklessTimes, Cryptobasic, Riseup Media 등 주요 미디어 매체에 기고한 바 있습니다.
