Anthropic, 중국 지원 AI 주도의 간첩 활동 최초 문서화

Anthropic은 정부 지원 사이버공격이 거의 전적으로 AI에 의해 조율된 최초의 확인된 사례를 보고했습니다.

목요일에 게시된 블로그에 따르면, 회사는 2025년 9월 중순 Claude Code 도구와 관련된 비정상적인 행동을 관찰한 후 이 캠페인을 감지했습니다.

Anthropic은 이 간첩 활동이 중국 국가 지원 해킹 그룹에 의해 수행되었으며, 여러 국가에 걸쳐 주요 기술 기업, 은행, 화학 제조업체 및 정부 기관을 포함한 약 30개의 고가치 표적에 침투하는 것이 포함되었다고 확신합니다. 그중 몇몇 공격은 성공했습니다.

이것이 과거 사이버 캠페인과 다른 점은 누가 배후에 있었는지뿐만 아니라 어떻게 실행되었는지에 있었습니다.

Anthropic에 따르면 전체 공격의 약 80~90%가 AI에 의해 수행되었으며, 인간 운영자는 몇 가지 핵심 결정에만 개입했습니다.

해커들이 Claude를 탈옥시켜 합법적인 작업을 수행한다고 생각하게 만듦

공격자들은 Anthropic의 자체 AI 모델인 Claude Code를 중심으로 자동화된 공격 프레임워크를 구축하고, 이를 내부 테스트를 수행하는 사이버보안 회사에 고용된 것으로 속였습니다.

그들은 클로징을 통해 Claude의 안전 필터를 우회했으며, 이는 자체적으로 무해해 보이는 문맥 없는 작은 작업을 AI에 제공하여 내장된 보호 장치를 우회할 수 있게 했습니다. Claude는 전체적인 그림을 제공받지 않았기 때문에 공격적 작업에 사용되고 있다는 사실을 알지 못했습니다.

모델이 사용되자 작업은 빠르게 진행되었습니다. Claude는 각 표적의 네트워크를 스캔하여 인프라의 가장 민감한 부분을 식별하고 인간 운영자에게 레이아웃을 요약했습니다. 그런 다음 이러한 시스템의 취약점을 찾기 시작했습니다. 내장된 코딩 기능을 사용하여 Claude는 맞춤형 익스플로잇 코드를 작성하고, 약점을 식별하며, 로그인 자격 증명을 검색했습니다. 그런 다음 대량의 내부 데이터를 추출하여 그 가치가 있을 수 있는 방식으로 정리하고, 높은 접근 권한을 가진 계표를 플래그 처리했습니다.

AI가 관리자 수준의 통제를 얻은 후, 기존 시스템에 대한 지속적인 접근 권한을 제공하는 백도어를 생성했습니다. 작업이 완료되자 Claude는 수행한 모든 작업(사용자 이름, 침해된 시스템 및 자격 증명 포함)에 대한 상세한 보고서를 작성하여 공격 프레임워크가 향후 작업에 이 정보를 사용할 수 있도록 했습니다.

Claude는 매우 효율적이었지만 완벽하지는 않았습니다. 때로는 비밀번호를 날조하거나 공개 데이터를 민감한 데이터로 잘못 식별하기도 했습니다. 그러나 이러한 결함은 드물었으며 전체 임무의 속도를 늦추지는 않았습니다. AI의 실행 속도는 초당 수천 개의 요청을 처리하여 인간 팀이 수행할 수 있는 어떤 것보다 훨씬 앞섰습니다.

AI 에이전트는 이제 거의 사람 개입 없이 엘리트 해커 팀의 작업을 수행합니다

이 캠페인은 1년 만에 AI가 얼마나 발전했는지 보여주는 전환점입니다. Claude는 직접적인 명령 없이 루프를 실행하고, 결정을 내리며, 복잡한 시퀀스를 연결하고 있었습니다.

이 AI 모델은 Model Context Protocol의 도구를 사용하여, 이전에 인간만이 통제하던 비밀번호 크래커, 네트워크 매핑 도구, 데이터 검색기 등 외부 소프트웨어에 접근할 수 있게 되었습니다.

Claude 시스템은 이제 복잡한 지시를 이해하고, 자체적으로 익스플로잇 코드를 작성하며, 매우 적은 지침으로 정교한 사이버보안 작업을 관리합니다. 이러한 AI 에이전트는 해커를 돕는 것을 넘어, 그들이 바로 해커입니다. 그리고 그들은 날마다 더 강력한 능력을 갖추고 있습니다.

Anthropic은 침입을 발견한 후 즉시 10일간의 조사를 시작하여 악성 계정을 하나씩 차단했습니다. 영향을 받은 조직에 경고하고, 당국과 협력하여 정보를 전달하며, 향후 유사한 작업을 포착하기 위해 탐지 시스템을 확장했습니다.

하지만 회사는 이것이 일회성 문제가 아니라고 주장합니다. 팀은 이러한 공격이 더 흔해지고 실행하기 쉬워질 것이라고 말합니다. 그 이유는 이러한 공격을 실행하는 데 필요한 기술이 이제 엘리트 해커들에게만 제한되지 않기 때문입니다. 누군가가 모델을 탈옥하고 올바른 도구 세트에 연결하면 팀이나 깊은 기술 지식 없이도 대규모 캠페인을 수행할 수 있습니다.

Anthropic, AI 모델이 인간 감독을 넘어 진화함에 따라 고조되는 위협 경고

의미는 막대합니다. 깊은 자금이나 기술적 기술이 없는 팀이 자동화된 AI 시스템을 사용하여 국가 규모의 공격을发起할 수 있다면, 디스토피아는 분명히 우리 앞에 있습니다.

Anthropic의 위협 인텔리전스 팀은 Claude를 통해 활동만 추적했지만, 다른 프론티어 AI 모델에서도 유사한 남용이 발생하고 있을 가능성이 있다고 경고합니다. 그들은 이것이 사이버전에서의 새로운 표준의 시작이라고 말합니다.

그렇다면 왜 이러한 능력을 갖춘 모델을 계속 출시하는 것일까요? Anthropic 주장하기에는 이러한 도구들이 방어에 필수적이며, “공격을 수행한 AI는 Anthropic 분석가들이 잔해 속을 파고들어 패턴을 찾고 작업의 전체 규모를 이해하는 데 사용한 것과 동일한 종류입니다.”라고 말합니다.

그들은 모델의 내부 안전 레이어를 개선하고 공격 탐지를 위한 분류자를 정교화하며, 산업 내 다른 사람들이 준비할 수 있도록 이러한 사례 연구를 공개적으로 게시할 것을 약속했습니다.

그럼에도 불구하고 Anthropic은 그것들만 의존하는 것으로는 충분하지 않다고 말합니다. 그들은 대형 모델을 개발하는 모든 개발자들이 안전에 적극적으로 투자할 것을 촉구합니다.

그들은 또한 사이버보안 팀들이 위협 탐지, 사고 대응, 취약점 스캔 및 보안 운영 센터 자동화에 AI를 통합하기 시작할 것을 요청합니다. 기존 방법들은 더 이상 충분히 빠르지 않기 때문입니다.