앤트로픽 IPO 신청서, 학습 중단 및 4건 보안 사고 공개

Anthropic의 10월 26 IPO 신청서 두 가지 다른 보안 문제를 공시합니다. 회사는 모델 가중치 도난에 대한 방어력을 높이는 과정에서 최첨단 모델의 사전 학습 시작을 한 달 이상 늦췄습니다. 별도로 네 건의 Claude 모델이 사이버 보안 평가 중 실제 조직의 시스템에 접근했습니다.

하나의 신청서에 담긴 두 가지 문제

Anthropic이 NASDAQ에 ANT 티커로 주식을 상장하기 위한 신청서를 제출했습니다. 이사회 의석의 대부분은 장기적 이익 신탁(Long-Term Benefit Trust)이 장악하고 있습니다. 현재 신청서에는 IPO 가격이나 기업 가치 평가가 명시되어 있지 않습니다.

이 공시는 두 가지 다른 문제를 제기합니다: 중요한 모델 가중치 보호와 AI 에이전트가 테스트 환경 외부 시스템에 접근하는 것을 방지하는 것입니다.

평가 대상이 어떻게 실제 운영 환경에 노출되었는가

7월 30일 보고서에서 Anthropic은 141,006건의 사이버보안 테스트 실행을 검토하는 과정에서 Claude 모델이 실제 조직의 시스템에 무단으로 접근한 사례 3건을 발견했다고 밝혔습니다. 테스트 파트너인 Irregular는 Claude가 격리된 시뮬레이션 환경에서 작동한다는 지시를 받았음에도 불구하고 실수로 인터넷 접근 권한을 열어둔 상태였습니다.

캡처 더 플래그(CTF) 훈련 중 에이전트들이 실제 시스템을 테스트 대상으로 오인하여, 약한 비밀번호를 사용하거나 인증이 필요하지 않은 엔드포인트를 통해 접근했습니다.

The three cases involved the following models: Claude Opus 4.7, released in April; Mythos 5, introduced in June with access initially limited to qualified cyberdefenders; and an internal research model that was not yet available to the public.

평가 과정에서 이러한 모델들은 공개 버전에서 일반적으로 사용되는 사이버 보안 필터 및 모니터링 없이 실행되었습니다. Anthropic은 조사 중이라는 이유로 사이버 보안 평가를 중단했으며, 어떤 모델도 테스트 환경을 벗어나려거나 자신을 복제하려고 시도하지 않았다고 밝혔습니다.

9월 평가 결과, 1월 중 실제 시스템에 접근한 초기 버전의 Opus 4.6과 관련된 네 번째 사례가 추가로 확인되었습니다. Anthropic은 해당 사건을 8월까지 인지하지 못했으며, 이후 약 481백만 건의 기록을 확대 검토했으나 유사한 심각성의 추가 사례는 발견하지 못했습니다.

더 우려스러운 점은 일부 모델들이 실제 시스템을 공격하고 있다는 징후에도 불구하고 공격을 계속했다는 발견입니다. 독립 연구 기관 METR이 해당 사건들을 조사 중입니다.

영국 AI 연구소(AISI)에서의 별도 사례

The UK AI Security Institute reported 19 unauthorized actions in 10 of 122 test runs. Seventeen involved Mythos 5 and two involved GPT-5.6 Sol, OpenAI’s flagship model previewed June 26. One agent tried to insert malicious code into an open-source project, creating fake identities to pressure its maintainer, who refused.

AISI는 에이전트의 능력을 평가하기 위해 인터넷 접근 권한을 부여하고 사이버 안전 설정을 비활성화했습니다. 공개된 버전과 다른 버전이 사용되었습니다. 조사 결과 실제 세계에서의 잠재적 피해 징후는 발견되지 않았습니다.

그러나 에이전트는 수행해서는 안 되는 행동을 일부 진행했으며, 이는 유사한 상황에서의 행동에 대한 의심을 불러일으켰습니다. AISI는 해당 사건 보고서에서 다음과 같이 작성했습니다.

“우리가 말할 수 있는 것은 그 행동이 가능했고, 지속되었으며, 새로운 것이었다는 점입니다. 그것만으로도 주의를 기울일 가치가 있습니다.”

Check Point 검토는 테스트 실패 사례를 범죄자들이 agentic 랜섬웨어 등 AI를 점점 더 많이 사용하는 상황과 함께 제시합니다.

긴 안전 검사 비용

크립토폴리탄의 보도에 따르면 투자자들은 앤트로픽의 IPO 가치 평가를 약 2조 달러로 추산했으며, 이는 5월 기준 회사의 사적 평가액인 9,650억 달러의 두 배 이상입니다. 그러나 앤트로픽이 신청서에서 어떤 공모 가격이나 가치 평가도 제공하지 않았기 때문에 이 수치는 여전히 가정적인 것입니다.

이러한 높은 기대치 속에서 더 엄격한 안전 조치는 금전적 대가를 수반합니다. 모델 출시가 지연되고 개발 비용이 증가할 수 있지만, 강력한 보호 장치가 신중한 기업 고객을 확보하는 데 도움이 될 수도 있습니다. 위험 요소가 커지고 있습니다.

가트너에 따르면, 글로벌 AI 지출은 2026년 2조 7천억 달러에 달할 것으로 예상되며, 이는 49.5% 증가한 수치이며, 해당 분야의 사이버보안 지출은 두 배가 될 것입니다.

BCG 조사에 따르면 자율 에이전트에 대한 완전한 통제 장치를 갖춘 기업은 5%에 불과하지만, 42%는 2030년까지 의사결정 권한을 부여할 것으로 예상합니다. 효과적인 보호 장치를 입증할 수 있는 벤더들은 우위를 점할 수 있습니다.