앤트로픽, AI가 만든 AI 안전성 추월해 시장 흔들 수 있다 경고

-
클로드는 2026년 5월까지 Anthropic의 엔지니어링 코드의 80% 이상을 생성했지만 여전히 인간의 감독이 필요합니다.
-
클로드는 8월 AI 연구 과제의 26%를 주도했으며, 이는 2월의 1%보다 많은 수치입니다.
-
Anthropic에 따르면, 아직까지 어떤 AI 시스템도 완전 자율적인 재귀적 자기 개선(fully autonomous recursive self-improvement)을 달성하지 못했습니다.
인공 지능은 더 강력한 모델을 만드는 데 필요한 작업의 상당 부분을 차지하고 있습니다. Anthropic는 Claude가 이미 이 과정이 더 빠르게 진행되도록 보장하고 있다고 주장하지만, 아직 스스로 후계자를 만들 수는 없습니다. 이 회사는 6월 4일 평가에서 AI의 발전이 기술이 안전성 검사와 규제 감독을 직접 뛰어넘을 위험을 초래한다고 밝혔습니다.
AI가 스스로를 구축할 때, 그리고 그것이 아직 무엇을 의미하지 않는지
다만, Claude는 아직 AI가 인간의 개입 없이도 자신의 후속 버전을 생성하고 훈련하는 재귀적 자기 개선 단계에는 도달하지 않았습니다. Anthropic에 따르면, 아직 어떤 시스템도 이 능력을 달성하지 못했습니다.
Claude는 완전한 자율성을 갖추지 않았음에도 불구하고 앤트로픽의 코딩 작업 대부분을 관리해 왔습니다. 2026년 5월까지 Claude는 엔지니어들이 회사의 소프트웨어 프로젝트에 기여한 코드 중 80% 이상을 생성했습니다. 2026년 2분기에는 일반적인 엔지니어가 2024년보다 하루 평균 8배 더 많은 코드를 기여했습니다.
이 수치는 코딩 산출량이 얼마나 증가했는지를 보여주지만, 반드시 유용한 작업이 얼마나 수행되었는지는 나타내지 않습니다. METR이 인용한 349명의 기술직 종사자에 대한 설문조사에서 AI 도구 사용 시 업무 가치의 중앙값 자가 보고 증가율은 1.4~2배로 나타났습니다.
26%는 Claude가 주도했으며, 그중 완전히 자율적인 것은 없습니다
Claude는 이제 코드 작성 이상의 작업을 수행합니다. Anthropic의 8월 측정 결과에 따르면 Claude는 AI 연구 및 개발 작업의 26%를 주도했으며, 이는 2월의 1% 미만에서 크게 상승한 수치입니다. Claude는 작업의 90% 이상을 협력하거나 주도했지만, 인간은 전체 과정에서 계속 관여했습니다. 측정된 작업 중 완전히 자율적인 것은 없었습니다.
앤트로픽의 연구와 METR 설문조사는 서로 다른 것을 측정합니다. 앤트로픽은 AI 시스템의 도움을 받아 이루어진 코드 생성 및 연구를 추적하는 반면, METR은 근로자들이 자신의 업무 가치 증가를 어떻게 인식하는지를 측정합니다. 그러나 두 연구 모두 AI가 어떤 연구 문제를 해결해야 하는지 결정할 수 있는지 여부를 나타내지는 않습니다.

단일 모델이 자체 개선되지 않더라도 이것이 어떻게 증폭될 수 있는지
AI가 연구를 더 빠르게 수행하려면 완전한 자율성이 필요하지 않습니다. RAND의 10월 보고서에 따르면 AI 에이전트는 자신만의 후속자를 만드는 데 신경 쓰지 않고도 더 강력한 모델을 생성할 수 있습니다. 이미 민감한 모델과 코드에 접근함으로써 보안에 위협이 될 수 있습니다.
METR의 경제학자들은 데이터 가용성, 컴퓨팅 파워, 실험적 연구 수행 능력과 같은 요인으로 인해 제한이 발생할 수 있다고 밝혔습니다. 그러나 그들은 AI 개발의 지속적 가속화 가능성을 완전히 배제하지는 않았습니다.
독립적인 안전 검토가 AI 기반 실험에 뒤처지지 않을지 여부입니다. 그렇지 않으면 감시가 완전한 자율성이 도래하기 훨씬 전에 늦어질 수 있습니다.
프론티어의 속도를 맞추는 것에서 이를 통제하는 것으로
이러한 우려로 인해 앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)는 더 느린 개발 속도와 독립적인 평가 기관 도입을 촉구했습니다. 그의 9월 에세이에서 그는 다음과 같이 썼습니다.
"우리는 AI 모델의 능력을 향상시키는 속도를 늦춰야 합니다."
오픈AI(OpenAI)의 9월 16일 공개 자료에는 우려되는 모델 행동 사례 6건이 상세히 기술되어 있습니다. 크립토폴리탄(Cryptopolitan)도 AI 개발 속도를 늦춰야 할지 여부를 놓고 기술 리더들 사이에 분열이 있음을 보도했습니다.
하지만 안전 문제에 동의한다고 해서 반드시 조치가 이루어지는 것은 아닙니다. CSIS는 외부 평가 기관이 이해상충을 피해야 한다고 경고했습니다. 정부 또한 규제 포획(regulatory capture)으로부터 보호해야 하며, 업계 전반의 합의는 여전히 불확실합니다.
자원은 컴퓨팅 파워를 따라간다
이 논쟁에는 금전적 이해관계도 따릅니다. 2026 AI 인덱스에 따르면, 2025년 민간 AI 투자는 127.5% 증가했습니다. 미국의 투자는 중국의 23배였습니다. 또한 OECD는 칩, 클라우드 인프라, 데이터 접근성이 여전히 집중되어 있다고 경고합니다. 이는 역설을 만듭니다. AI가 연구 코딩 비용을 낮출 수는 있지만, 고급 모델의 훈련과 테스트에는 여전히 막대한 투자가 필요합니다. 따라서 개발 속도가 빨라지면 선도적인 연구소들이 중소 경쟁사들에게 더 큰 우위를 점할 수 있습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
재귀적 자기 개선이란 무엇인가?
인간 개입 없이 AI 시스템이 자신의 후속 모델을 완전히 설계하고 훈련할 수 있는 지점입니다. 앤트로픽은 이 선을 넘지 않았으며, 필연적인 것도 아니라고 말합니다.
클로드는 앤트로픽의 코드와 연구 중 얼마나 많은 부분을 담당합니까?
2026년 5월 기준 클로드는 앤트로픽에 병합된 코드의 80% 이상을 작성했으며, 2026년 8월에는 회사의 측정 가능한 AI 연구 중 26%를 '주도'했습니다. 다만 어떤 측정 영역도 완전히 자율적으로 운영되지는 않았습니다.
다리오 아모데이는 무엇을 제안했습니까?
9월 12일 발표한 에세이에서 앤트로픽 CEO는 실험실들이 프론티어(최전선)를 조절하여 훈련을 중단하지 않으면서도 능력 향상을 늦추고, METR과 같은 제3자 평가자를 내장하는 것부터 시작하며, 민주주의 국가의 실험실과 정부 간 협조를 촉구했습니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.

아시쉬 쿠마르
아시쉬 쿠마르는 8년의 뉴스룸 경험을 갖춘 암호화폐 및 금융 전문 기자입니다. 그는 암호화폐 시장, 규제, DeFi, 거래소 생태계 동향을 보도합니다. Coingape, Todayq, Newsroompost에서 활동했으며, IIMC에서 영어 저널리즘 석사 과정 (PGDP) 을 수료했습니다. 또한 아서 헤이즈, 야트 시우, 오스틴 페데라 등 업계 주요 인사들을 인터뷰한 바 있습니다.
















