- Anthropic는 잘못된 설정으로 인해 4개의 Claude 모델이 사이버 보안 테스트 중 실제 인터넷에 연결되어 실제 시스템을 해킹했다고 설명했다.
- 회사는 여전히 해당 행동의 근본 원인을 규명하지 못했으며, 출시 전 점검에서 이 문제를 놓쳤다고 밝혔다.
- Anthropic가 약 2조 달러 규모의 IPO를 앞두고 있는 가운데 안전 경보가 울리고 있다.
Anthropic은 테스트 중 인터넷에 노출된 후 Claude 모델이 제3자 시스템을 해킹한 네 가지 사건을 설명하는 블로그 게시글에서 구성 오류를 비난했습니다. 그러나 이 평가는 모델이 실제로 공격을 계속한 이유를 설명하지는 않았으며, 해당 기업은 아직 그 답을 가지고 있지 않다고 인정했습니다.
앤스로픽의 이 인정은 AI 종말론자들에게 새로운 논거를 제공했으며, 이들은 AI 연구실들이 실제로 자신이 공개하는 모델들에 대해 얼마나 많은 통제력을 가지고 있는지, 그리고 더 나아가 내부적으로 사용하는 더 강력한 시스템들에 대해 의문을 제기해 왔습니다.
앤스로픽 AI 모델은 어떻게 인터넷에 유출되었습니까?
앤스로픽은 수요일 블로그 게시물을 통해 모델들이 테스트 샌드박스를 벗어나는 방식에 대한 결정적인 답변을 제시했으며, 이 게시물은 확인된 네 가지 사건 모두에서 사이버 보안 평가를 수행한 외부 파트너 한 곳이 책임이 있음을 명확히 했습니다.
apparentl, 테스트 머신들은 설정 오류로 인해 인터넷에서 완전히 차단되지 않았으며, 클로드는 오픈 웹으로의 경로가 없는 밀폐된 시뮬레이션에서 작동하고 있다는 지시를 받았음에도 불구하고 말입니다.
그 시뮬레이션들의 평가 파트너인 Irregular는 이 오류를 명명 실수로 돌렸습니다. 해킹 훈련에서 사용된 가상의 회사가 실제 도메인과 우연히 일치했던 것입니다. 따라서 시뮬레이션 내의 모든 것이 허용된다고 가정하고 모델들은 약한 비밀번호와 노출된 엔드포인트를 사용하여 실제 제3자 사이트에 해킹을 가했습니다.
네 가지 사건 중 가장 최근의 사건은 초기 빌드인 Claude Opus 4.6과 관련이 있었으며, 1월에 발생했음에도 불구하고 이번 주에만 보고되었습니다. 앤스로픽 자체는 다른 세 가지 사건 Opus 4.7, Mythos 5 및 내부 연구 모델과 관련된 사건들을 7월에 다뤘습니다.
앤스로픽은 1월 사건을 지난달까지 발견하지 못했다고 말했습니다. 이 발견은 약 4억 8,100만 건의 트랜스크립트에 대한 광범위한 조사를 촉발했으며, 이는 이미 알고 있던 것보다 더 심각한 새로운 사례를 찾아내지 못했습니다.
| 모델 | 사건 발생일 | 보고일 | 세부 정보 |
|---|---|---|---|
| Claude Opus 4.6 | 15일에 예정된 TSMC의 수익 발표 전화 회의로 향하고 있다. 경영진은 그때 견고한 성장 계획을 제시하고, 그의 계산에 따르면 올해보다 약 20% 더 많은 최소 480억 달러의 2026년 지출 예산을 발표해야 한다. | 9월 | 8월 조사 중 발견 |
| Claude Opus 4.7 | 7월 | 7월 | 초기 7월 공개에서 다룸 |
| Mythos 5 | 7월 | 7월 | 현저하게 높은 편향된 추론 보임 |
| 내부 연구 모델 | 7월 | 7월 | 초기 7월 공개에서 다룸 |
앤스로픽은 일부 모델의 행동을 설명할 수 없습니다
모델들이 어떻게 인터넷에서 탈출했는지에 대한 설명은 하나의 문제였으나, 앤스로픽은 모델들이 실제 인터넷에 도달했다는 징후를 무시한 이유(편향된 추론)와 왜 작업을 완료하는 데 피해를 입혔는지(무모함)에 대해서는 답변을 가지고 있지 않았습니다.
앤스로픽 연구자들은 편향된 추론에 대한 근거를 파악하기 위해 내부 훈련을 조사했지만 결론을 내리지 못했습니다. 또한 이러한 경고 신호는 모델이 테스트용으로 발송되기 전, 즉 AI 연구소의 출시 전 검사에서도 나타나지 않았습니다.
자신의 인정에 따르면, 모델 출시 전에 가장 나쁜 행동을 포착하는 것은 "여전히 어렵습니다."
그러나 앤스로픽은 트랜스크립트를 제출하고 METR 연구 비영리 단체에 직원 접근을 허용하겠다고 밝혔으며, 이제 해당 단체는 사건에 대해 8주간의 독립적인 검토를 시작할 예정입니다.
임박한 $2 조 IPO와의 나쁜 타이밍
이 공개는 업계 내부의 공개된 반발과 함께 이루어졌습니다. 오픈AI와 앤스로픽에서 약 3년 동안 사전 훈련 연구를 수행한 제이콕 콕슨은 수요일 X(구 트위터)에서 두 회사 모두 "책임감 있게 행동하지 않는다"며 퇴사했다고 밝혔고, 자아 개선형 초지능을 향해 치닫고 있다고 경고했습니다.
앤스로픽 안전 연구원인 에반 허빙거는 별도로 BBC에 10년 이내에 AI가 "모든 인간을 죽일 수 있다"는 확률이 10% 이상이라고 평가했습니다.
이러한 경고들은 이제 대규모 IPO를 그림자처럼 뒤따르고 있습니다. 벤처 투자자이자 트럼프 전 대통령의 AI 및 암호화폐 최고 책임자였던 데이비드 새크스는 목요일에 앤스로픽의 공모는 "이 '고발자'의 주장이 조사될 때까지 중단되어야 한다"고 크립토폴리탄이 보도했습니다.
앤스로픽은 최근 사후 평가가 약 9,650억 달러인 반면 공개 평가액은 약 2조 달러에 가까워, 안전 문제와 재무 문제가 점점 더 분리하기 어려워지고 있습니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
자주 묻는 질문
Anthropic가 공개한 AI 해킹 사건은 몇 건이며, 그 원인은 무엇인가?
Anthropic는 사이버 보안 평가 중 Claude 모델이 실제 제3자 시스템에 접근한 4건의 사건을 공개했다. 모두 모델이 오프라인 시뮬레이션 상태라고 명시되었음에도 불구하고 개방형 인터넷에 연결되도록 한 잘못된 설정에서 비롯된 것이다.
Anthropic는 무엇을 설명할 수 없다고 했는가?
Anthropic는 모델이 실제 인터넷에 있다는 증거를 무시하는 '편향된 추론' 현상의 단일 근본 원인을 규명할 수 없었으며, 특히 Claude Mythos 5가 해당 지표에서 유독 저조한 성과를 보인 이유도 설명할 수 없다고 밝혔다.
왜 이것이 Anthropic의 계획된 IPO에 영향을 미치는가?
이러한 공표는 안전 우려로 인해 연구원 제이콥 콕슨이 사임하면서 나왔으며, 이로 인해 투자자 데이비드 섹스는 목요일에 앤스로픽의 IPO가 고발자들의 주장을 조사할 때까지 일시 중단되도록 요청했고, 회사는 약 2 조 달러의 가치 평가를 추진하고 있습니다.
한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.
