‘심각하게 우려되는’ 사이버보안 위험이 Anthropic의 최신 초강력 모델들을 위협하다

Fortune과 연관된 보고서에 따르면, Anthropic의 유출된 내부 문서에는 ‘Claude Mythos’라는 코드명으로 불리는 새로운 세대의 AI 모델 존재가 드러났습니다.

그러나 더 큰 뉴스는 이 새로운 모델들이 ‘전례 없는 사이버보안 위험’을 초래할 것으로 여겨짐에도 불구하고 이미 테스트 단계에 들어갔다는 점입니다.

Anthropic의 데이터 유출

Fortune은 최근 보고서를 발표했으며, 이 보고서에는 인공지능 회사인 Anthropic의 유출된 문서들이 포함되어 있습니다. 이 문서들은 ‘Claude Mythos’라고 불리는 새로운 세대의 AI 모델 개발에 대한 세부 사항을 드러냅니다.

유출은 Anthropic의 콘텐츠 관리 시스템(CMS) 구성에서 발생한 인간 실수로 인해 발생했습니다. LayerX Security의 Roy Paz와 케임브리지 대학교의 Alexandre Pauwels는 Anthropic가 이미지, PDF, 오디오 파일, 초안 블로그 게시물 등 거의 3,000개의 미공개 자산이 공개적으로 접근 가능하고 검색 가능한 데이터 레이크에 방치했다고 설명했습니다. 

이 자료들은 Fortune이 Anthropic에 통지하기 전부터 온라인에서 발견되었으며, 이후 회사는 공개 접근을 제거했습니다.

Fortune이 확인한 문서들은 Claude Mythos가 이미 테스트 단계에 있음을 주장합니다. 더 중요한 것은, 이 새로운 모델이 ‘전례 없는 사이버보안 위험’을 초래할 것이라고 Anthropic가 믿고 있다는 점입니다. 

Anthropic는 초안 블로그에서 이 시스템이 ‘현재 사이버 능력 측면에서 다른 어떤 AI 모델보다 앞서 있다’고 밝히며, ‘방어자의 노력을 훨씬 초월하는 방식으로 취약점을 악용할 수 있는 모델들의 다가오는 물결을 예고한다’고 경고했습니다.

잠재적 위험으로 인해 Anthropic는 사이버보안 방어 조직에 대한 초기 접근을 우선시하는 신중한 출시 전략을 계획했으며, 이는 방어자들이 AI 기반 악용으로부터 코드베이스를 강화하는 데 선점 효과를 얻도록 했습니다. 

Anthropic는 이전에 중국 국가 지원 그룹이 Claude Code를 사용하여 약 30개 조직(기술 기업, 금융 기관 및 정부 기관 포함)에 침투했다고 보고했으므로, 이러한 우려는 정당합니다. 

유출된 문서들은 또한 영국 시골의 18세기 저택에서 예정된 초대형 CEO 정상회의에 대한 세부 사항도 드러냈습니다. 여기서 Anthropic CEO인 Dario Amodei는 유럽 비즈니스 리더들을 주최하여 AI 채택을 논의하고 미출시 Claude 모델의 기능을 선보일 예정이었습니다.

Elon Musk의 Anthropic와의 지속적인 갈등 

소식이 X에서 퍼져 상당한 주목을 받자, X의 소유자이자 Anthropic의 직접적인 경쟁자인 xAI의 수장인 Elon Musk는 이 소식에 대해 논평할 기회를 놓치지 않았습니다. 

Musk 댓글, ‘심각하게 우려된다’며 빠르게 수만 개의 조회수와 수천 개의 좋아요를 얻었습니다. 

Musk는 자신이 동의하지 않는 경쟁자에 대한 부정적인 뉴스에 논평하는 패턴을 보여왔습니다. Anthropic는 전직 OpenAI 직원들에 의해 설립되었으며, Musk는 공개적으로 OpenAI와 일반적인 AI 산업의 안전 및 상용화 접근 방식에 비판적이었습니다.

한편, Musk의 자체 AI 회사는 xAI, 최근 ‘SuperGrok Lite’라는 새로운 유료 구독 등급을 출시했습니다. 이 구독료는 $10이며, Grok의 무료 사용자들에게는 제한이 부과되어 이를 구매하거나 Grok이 제공하는 다른 세 가지 구독 계획 중 하나를 구매하도록 유도하고 있습니다. 

이들에는 월 $30인 SuperGrok, 월 $300인 SuperGrok Heavy, 그리고 월 $30인 Grok Business가 포함됩니다.