- 앤스로픽의 최고 안전 연구원인 미린앙 샤르마는 이번 주 초 공개적으로 회사를 사임한다고 발표하며, 세계의 현 상태와 유사한 AI에 대한 신비로운 경고를Issued했습니다.
- 샤르마의 사임장은 그의 배경, 앤스로픽과의 협력, 그리고 취약한 세계에서 AI 발전과 관련된 철학적 및 구조적 우려를 다루었습니다.
- 샤르마의 편지에서 얻은 더 큰 교훈은 국가 간 경쟁력, 시장 압력, 투자자 기대가 AI 기업에게 윤리와 위험 완화보다 성장을 우선시하게 만든다는 것입니다.
Anthropic의 수석 안전 연구원인 Mrinank Sharma는 이번 주 X(구 트위터) 게시물을 통해 회사에 사임한다고 발표했습니다. Sharma의 이 결정은 현재 AI와 세계의 상태에 대한 그의 우려에 의해 주도된 것으로 보입니다.
Mrinank Sharma는 Anthropic의 안전 연구팀을 이끌었습니다. Anthropic은 대형 언어 모델(LLM)인 Claude를 보유한 저명한 AI 기업으로, Claude는 OpenAI의 ChatGPT의 주요 경쟁자로 널리 간주됩니다. Sharma의 사임은 다소 갑작스러웠는데, 안전 연구팀은 작년 2월에야 공식적으로 설립되었기 때문입니다. 이 팀의 주요 임무는 Claude와 같은 Anthropic의 배포된 AI 시스템과 관련된 위험을 식별하고 이해하며 완화하는 것이었습니다.
미국 최대 AI 기업 중 한 곳의 최고 안전 연구원의 갑작스러운 사임은 소셜 미디어에서 큰 논란을 불러일으켰습니다. 아마도 사임장에서 가장 주목할 만한 부분은 Sharma가 “세상이 위기에 처해 있다”고 암시적으로 경고한 점일 것입니다. 그는 이 “위기가 AI나 생물무기 때문만이 아니라, 현재 진행 중인 일련의 상호 연결된 위기들 때문”이라고 설명했습니다. 이는 많은 사람들에게 AI 발전으로 인한 존재론적 위험에 대한 경고로 해석되었습니다. Sharma의 사임은 최근 유명 인사들이 AI 기업에서 사임하는 더 크고 우려스러운 가속화되는 추세의 일부입니다.
Sharma의 사임장 해석
Mrinank Sharma는 서한을 시작하며 자신의 배경과 영감에 대해 간략히 언급했습니다. 특히 “어려운 결정을 내리고 선을 위해 서 있는 의지”가 그중 하나였습니다. 그는 또한 “AI 보조 생물테러로부터의 위험을 줄이기 위한 방어책 개발 및 배포”와 “가장 초기의 AI 안전 사례 중 하나 작성”을 포함하여 Anthropic에 대한 자신의 기여에 대해 언급했습니다. 그의 마지막 프로젝트는 “AI 어시스턴트가 우리를 덜 인간적으로 만들거나 우리의 인간성을 왜곡할 수 있는 방법 이해”였습니다.
그러나 그의 서한에서 가장 큰 우려를 불러일으킨 부분은 세 번째 단락이었습니다. 그는 Anthropic의 잘못을 직접적으로 비난하거나 AI가 모두를 죽일 것이라고 노골적으로 말하지는 않았지만, 사임 이유를 설명하기 위해 많은 철학적 언어를 사용했습니다. 그는 “우리의 지혜가 세계에 영향을 미칠 수 있는 능력과 동일한 비율로 성장하지 않는 한, 우리는 그 결과를 직면하게 될 것입니다”라고 밝혔습니다. 이어 그는 “진정으로 우리의 가치가 우리의 행동을 지배하도록 하는 것이 얼마나 어려운지를 반복적으로 목격했다”고 썼습니다. 또한 그는 세계가 상호 연결된 일련의 위기들로부터 위기에 처해 있다고 묘사했는데, 이는 각주에서 “메타 위기”에 기반한 “폴리크라이시스”로 설명되었습니다.
이러한 언어는 그의 Anthropic 퇴사가 회사 내부의 어떤 분쟁보다는 철학적 차이에서 비롯되었음을 암시합니다. 현재 시기를 “메타 위기”에 기반한 “폴리크라이시스(다중 위기)”로 묘사함으로써 Sharma는 사회와 확장된 AI 개발이 직면한 훨씬 더 큰 구조적 문제를 지적하고 있는 것으로 보입니다. 기술이 집단적 지혜보다 빠르게 발전하고 있으며, 현재 세계의 상태에 맞춰 그 발전을 관리하고 영향력을 행사하는 현재의 시스템과 권력은 제대로 갖추어져 있지 않습니다.
Sharma의 서장에서 얻는 더 큰 교훈
Sharma의 사임장에서 얻는 더 큰 교훈은 다층적이고 존재론적입니다. 한편으로, 그는 기술 기업들이 경쟁적인 시스템 내에서 AI 개발의 가속화를 어떻게 다루고 있는지에 근본적인 문제가 있다고 믿는 것 같습니다. 글로벌 강대국들은 AI 및 기타 기술 발전에서 서로를 앞서기 위해 군비 경쟁을 벌이고 있으며, 글로벌 기술 지출은 2026년까지 5.6조 달러에 도달할 것으로 예상됩니다. 이는 AI 기업들이 단순히 제품을 혁신하고 구축하는 것을 넘어 지리적 갈등의 중요한 구성 요소가 됨을 의미합니다. 또한 이러한 기업들은 주주에게 좋은 성과를 내야 하는 수탁 책임이 있으므로, 기술 발전에서 경쟁사를 능가할 인센티브가 생깁니다.
이는 안전 원칙과 절차가 시장 압력, 국가 경쟁력 및 투자자의 기대와도 일치해야 하는 환경을 조성합니다. 그럼에도 불구하고 AI 기업들이 빠르게 확장하고 능력을 발전시킴에 따라, 그들이 가져오는 위험을 식별, 이해 및 완화해야 합니다. Sharma가 다루고 있는 문제는 현재 AI 기업들이 운영하는 시스템이 자연스럽게 안전과 윤리적 고려사항보다 성장을 우선시한다는 점입니다. 이러한 역동의 함의는 존재론적으로 심오하며 큰 우려의 원인입니다. 정직함이 느껴지는 Sharma와 같은 사람은 자신의 가치를 타협하지 않고서는 이러한 시스템 내에서 계속 운영할 수 없었으며, 이로 인해 그는 완전히 물러나게 되었습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com 본 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다. 투자 결정을 내리기 전에 반드시 독립적인 조사나 자격을 갖춘 전문가의 상담을 강력히 권장합니다.
드루 마르츠
드류는 지난 6 년간 콘텐츠 작가, 소셜 미디어 전략가, 디지털 마케팅 전문가 등 다양한 역할을 수행해 왔습니다. EPIC Insurance, Slabscan, 그리고 Data Dash, Your Friend Andy, FireHustle, ScentBird, Drew Wolfer, Crypto Fiend 등을 포함한 여러 YouTube 채널과 협력했습니다. 그는 이러한 모든 전문 기술을 Cryptopolitan 의 암호화폐 뉴스 저널리스트로서 결합하여 활용하고 있습니다. 컬럼비아 칼리지에서 학사 학위를 취득했습니다.
