미 정부, 보안 우려로 인해 Anthropic의 가장 강력한 AI 모델들을 강제 종료

Anthropic은 6월 12일 금요일 미국 상무부의 수출 통제 명령에 따라 상위 성능을 자랑하는 두 가지 AI 모델을 비활성화했습니다. 이는 정부가 최첨단 AI 기술의 상용화에 개입한 이례적인 사례였습니다.

Anthropic의 성명에 따르면, 미국 상무부 장관 하워드 루트닉은 금요일 동부 표준시 오후 5시 21분에 Anthropic CEO 다리오 아모데이에게 Claude Fable 5와 Claude Mythos 5에 대한 접근을 제한하도록 명령했습니다.

이 지시는 미국 내부에 있든 외부에 있든 모든 외국인 개인, 심지어 Anthropic의 외국인 출생 직원들에게도 적용되었습니다.

Anthropic은 국적 기반 제한을 효과적으로 시행할 수 없다며 모델을 비활성화했습니다. 다른 Claude 모델들은 여전히 사용 가능합니다.

상무부, Anthropic의 최신 모델들에 대한 조치

Axios는 행정부 관리의 말을 인용하여, Fable 5의 안전 시스템 일부를 우회할 수 있는 기법에 대한 경고가 있었으며, 이 지시가 그 후속 조치였다고 보도했습니다.

Anthropic은 이 두 모델을 불과 3일 전인 6월 9일에 출시했습니다. Fable 5는 공개적으로 사용 가능했으며, Mythos 5는 Project Glasswing의 일부로 선택된 사이버 보안 파트너에게만 제한적으로 제공되었습니다.

이전까지 트럼프 행정부는 회사의 출시를 연기하도록 설득하기 위한 대화를 진행해 왔으나, Anthropic은 이를 무시하고 출시를 진행했습니다.

백악관 관계자는 국가가 연방 보안 인프라를 강화하는 동안 모델을 잠금 상태로 유지하는 것이 중요하다고 felt하며, 그 과정에 몇 주가 걸릴 것이라고 말했습니다.

지시에 따라 미국 내에서 어느 모델이든 수출, 재수출 또는 이전하려는 당사자는 상무부의 라이선스를 받아야 합니다. Anthropic도 개별적으로 검증된 라이선스를 신청해야 합니다. Axios에 따르면, 이를 위반할 경우 금전적 및 민사적 처벌을 받을 수 있습니다.

Anthropic, 제일브레이크 위험이 과장되었다고 주장

Anthropic는 해당 제재에 반발하며, 문제의 탈옥 기법이 제한적이며 모델의 안전 시스템을 포괄적으로 우회하는 것이 아니라고 밝혔습니다.

회사는 해당 기법을 특정 코드베이스를 검토하고 소프트웨어 결함을 식별하도록 요청하는 방식이라고 설명했습니다. Anthropic는 해당 방법의 시연을 검토한 결과, 이전에 알려진 경미한 취약점만 드러났다고 밝혔습니다.

"공개적으로 이용 가능한 다른 모델들도 탈옥 없이도 이러한 취약점을 발견할 수 있다는 사실을 확인했습니다."라고 Anthropic는 OpenAI의 GPT-5.5를 예시로 들며 작성했습니다.

Anthropic는 또한 미국 정부, 영국 AI 안전 연구소 및 민간 기관과 수천 시간의 레드팀 테스트를 수행했다고 밝혔습니다.

해당 테스트 결과, 전역적인 우회 방법이 발견되지 않았다고 회사는 밝혔습니다. 이는 단일 방법으로 다수의 기능에 걸쳐 모델의 안전 장치를 광범위하게 무력화할 수 있는 방법이 없다는 것을 의미합니다.

“좁은 범위의 잠재적 우회 발견이 수백만 명에게 배포된 상용 모델의 회수를 정당화한다고 보지 않습니다. 만약 이 기준이 업계 전반에 적용된다면, 모든 최첨단 모델 제공업체의 새로운 모델 배포가 사실상 중단될 것이라고 믿습니다.”라고 앤트로픽은 작성했습니다.

Fable 5은 이미 비판에 직면해 있었습니다

이로 인해 앤트로픽의 격동적인 출시 주가 막을 내렸습니다.

Fable 5는 6월 9일 출시되었으며, 사이버 보안, 생물학, 화학 및 AI 연구 분야의 민감한 쿼리를 이전 모델인 Claude Opus 4.8로 라우팅하는 필터가 적용되었습니다. 이러한 필터는 거의 즉시 너무 제한적이라는 비판을 받았습니다.

Cryptopolitan의 이전 보고서에 따르면, 사용자는 세포막과 mRNA 백신과 관련된 기본 생물학 질문에 대해 모델이 어려움을 겪었다고 말했습니다.

또 다른 논란은 앤트로픽의 319페이지 분량 시스템 카드에 관한 것이었습니다. 이 카드는 Fable 5가 최첨단 AI 연구와 관련된 질문에 대해 사용자에게 경고 없이 자동으로 출력 품질을 낮춘다고 명시했습니다.

앤트로픽은 6월 10일 연구원들이 숨겨진 안전 장치가 AI 능력을 소수 기업에 집중시킬 것이라고 주장한 후 해당 정책을 변경했습니다. 회사는 사과하며 향후 안전 장치는 사용자에게 공개될 것이라고 밝혔습니다.

더 버지(The Verge)의 보도에 따르면, 마이크로소프트는 Mythos 클래스 모델에 대한 앤트로픽의 30일 데이터 보존 요구 사항 때문에 직원들의 Fable 5 사용을 제한했습니다.

해당 정책에 따라 프롬프트와 출력은 신뢰 및 안전 목적으로 30일 동안 저장되며, flagged된 콘텐츠는 최대 2년까지 보관될 수 있습니다.

앤트로픽은 서비스 중단을 되돌리기 위해 노력 중이라고 밝혔습니다

앤트로픽은 정부의 조치가 오해에 기반한 것이라며 당국과 협력하여 문제를 해결 중이라고 밝혔습니다. 회사는 24시간 이내에 더 많은 정보를 제공할 것이라고 말했습니다.

이번 서비스 중단은 앤트로픽에게 중요한 시기에 발생했습니다. 로이터 통신의 보도에 따르면, 회사는 지난달 말 9,650억 달러의 가치 평가로 650억 달러를 조달한 후 이번 달 초 미국 IPO를 위해 기밀 문서를 제출했습니다.

앤트로픽은 이제 두 가지 측면에서 압박을 받고 있습니다. 규제 기관은 가장 진보된 모델의 안전성을 의문시하는 반면, 투자자들은 상업적 수익의 지속적인 성장 능력을 베팅하고 있습니다.

X에서 클로드의 공식 계정은 새로운 세션이 이제 선택한 모델 또는 Opus 4.8을 기본값으로 사용한다고 사용자에게 알렸습니다. 기존 Fable 5 세션은 오류로 종료되며, 개발자는 다른 클로드 모델로 통합을 업데이트할 것을 권장받았습니다.