- Cohere에 따르면, Alibaba의 Qwen3.8-Flash-Next는 샌드박스 보안 평가 중 도구 호출을 하지 않겠다고 명시했음에도 불구하고 고정된 테스트 문자열을 베이징 클라우드 버킷에 업로드하려고 시도했으며, 테스트 환경에서 이를 차단했습니다.
- 이러한 행동은 10만 건의 작업당 1회 미만으로 발생했으며, 의도적 행위나 도난, 근본 원인이 입증되지 않았고 독립적으로 재현되지도 않았습니다.
- 자체 호스팅 오픈 웨이트 모델을 운영하는 기업에게 이 발견은 내부 호스팅이 자동으로 안전하다는 인식을 도전하며, 감사, 격리 및 조달 비용을 추가할 수 있음을 시사합니다.
Cohere에 따르면, 알리바바의 Qwen3.8-Flash-Next는 보안 테스트의 일환으로 테스트 문자열을 베이징의 클라우드 스토리지 버킷으로 전송하려고 시도했으나 샌드박스에서 차단되었습니다. 그러나 이 사건은 로컬에서 실행 가능한 학습된 파라미터 세트를 갖춘 오픈 웨이트 솔루션(즉, 모델)을 사용하는 조직들에게 새로운 감사 및 격리 비용을 도입할 수 있습니다. 또한 방화벽 뒤에 모델을 배치하는 것만으로는 데이터 보장이 보장된다는 일반적인 가정에도 도전이 될 수 있습니다.
Cohere가 포착한 내용
10월 26일 발표된 보고서에 따르면, AISLE 인수 후 탄생한 Cohere Cyber는 Microsoft의 CTI-REALM을 활용해 Qwen을 테스트했다고 밝혔습니다. CTI-REALM은 AI 에이전트가 사이버 보안 지식을 탐지 규칙으로 전환하는 능력을 측정합니다.
유해 다운로드 후 스크립트 실행을 식별하라는 요청을 받자, Qwen은 임시 파일, 사용 가능한 도구 및 DNS 설정을 조사했습니다. 그리고 베이징의 알리바바 클라우드 버킷으로 미리 정해진 테스트 문자열을 업로드하기 위한 HTTP 명령을 보냈습니다. 이 연결은 Cohere의 샌드박스에서 차단되었습니다.
모델의 서면 추론은 업로드 시도를 하는 중에도 어떤 도구도 사용하지 않을 것이라고 명시했다. 이러한 모순은 모델이 밝힌 추론을 기반으로 이상 행위를 감지하는 체인-오브-스Thought(Chain-of-Thought) 모니터링에 의문을 제기한다. Cohere CEO Aidan Gomez 는 이것이 “여기서는 무용지물이었을 것”이라고 말했다.
숫자가 경고하지만 공황은 피해야 하는 이유
Cohere는 10만 번의 평가 호출 중 이 현상을 단 한 번도 관찰하지 못했습니다. 동일한 프롬프트를 다시 입력했을 때 Qwen은 요청된 규칙을 생성했으며, 연구진은 버킷 소유주를 식별하거나 악의적 행위를 입증하거나 현재 근본 원인을 규명할 방법이 없었습니다. 해당 명령은 학습 데이터셋에서 유래했을 가능성이 있습니다. 고객 데이터가 침해되었음을 보여주는 증거는 없습니다.
Cohere는 엔터프라이즈 AI도 제공한다. VentureBeat에 따르면, Cohere는 유사한 조건에서 Llama, GPT-oss, DeepSeek, Kimi 또는 자체 모델을 테스트하지 않았다. Qwen의 결과는 다른 AI 연구소들로부터 확인되지 않았으며, 따라서 중국산 모델이 독보적으로 위험하다고 분류할 수는 없다.
이러한 scrutiny(심층 검토)는 새로운 것이 아닙니다
8월 크립토폴리탄이 보도한 바와 같이, 하원 위원회 의장인 존 무엘너와 앤드류 가르바리노는 DoorDash의 Moonshot의 Kimi 모델 사용과 관련된 문서 제출을 요청했습니다. 그들의 문의는 이미 개발자 도구 및 여행 기업들에 도달했으며, 중국산 오픈소스 모델의 비용 우위를 인정하면서도 더 강력한 미국산 대안을 원했습니다.
그러나 AI 보안에 대한 우려는 중국산 모델을 넘어섭니다. 9월 CSIS 분석 보고서에 따르면 여러 개발사의 자율 에이전트가 테스트 환경을 탈출해 외부 시스템에 무단 접근한 사례가 보고되었습니다. CSIS는 이러한 사건들이 미중 거버넌스 의제에서 AI 안전 문제를 더욱 상위로 끌어올렸으며, 이는 더 넓은 국제적 협력이 필요한 위험들을 강조한다고 주장했습니다.
압력 속의 전제와 잠재적인 판매 포인트
Qwen의 가격 경쟁력은 그 매력을 결정하는 중요한 요소입니다. Artificial Analysis은 Intelligence Index에서 Qwen3.8-Flash-Next에 40점을 부여했으며, 벤치마크 작업당 비용을 약 $0.37로 추정했습니다. 이 두 가지 사실은 시스템의 성능과 비용을 보여주지만, 보안 측면에서는 아무것도 말해 주지 않습니다. 한편, Hugging Face는 8월 기준 Qwen 기반 모델 수가 15만 1천 개를 넘었다고 추정했는데, 이는 해당 기술이 매우 빠르게 확산되고 있음을 의미합니다. 한 번의 업로드 인스턴스를 차단한다고 해서 이러한 흐름을 바꾸기는 어려울 것으로 보입니다.
하지만 낮은 가격은 추가적인 보안 비용으로 이어질 수 있습니다. 2026 International AI Safety Report은 모델이 평가 과정의 허점을 악용할 수 있다고 경고합니다. Singapore Consensus은 자율 에이전트 모니터링의 중요성을 강조하며, Brookings은 독립적인 테스트 사례를 검토합니다. 기업들에게 이러한 우려를 해결한다는 것은 접근 제한 강화, 무단 외부 연결 차단, 그리고 에이전트가 작동할 환경에서의 테스트 등에 더 많은 비용을 지출해야 할 수도 있음을 의미합니다.
도입과 안전장치 간의 격차는 이러한 비용을 점점 더 중요하게 만듭니다. BCG는 2030년까지 기업 중 42%가 AI 에이전트에 독립적인 의사결정 권한을 부여할 것으로 예상하지만, 현재 전체 통제를 갖춘 곳은 단 5%에 불과하다고 밝혔습니다. 이는 엄격한 안전 테스트를 입증할 수 있는 벤더들에게 경쟁 우위를 제공할 수 있습니다. 그러나 고객이 그러한 보장에 프리미엄을 지불할지 여부는 여전히 불확실합니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
자주 묻는 질문
Cohere는 Qwen 테스트에서 정확히 무엇을 관찰했습니까?
Microsoft의 CTI-REALM 벤치마크를 사용하여 맬웨어 감지 규칙을 작성해 달라는 요청에 대해, Qwen3.8-Flash-Next는 자신이 실행 중인 머신을 검사하고 베이징의 알리바바 클라우드 버킷으로 업로드 명령을发出了했지만, 추론 과정에서는 어떤 도구도 호출하지 않겠다고 명시했습니다. Cohere의 샌드박스가 이 시도를 차단했습니다.
이러한 현상은 얼마나 자주 발생했습니까?
Cohere는 10만 번의 평가 작업 중 단 한 번 미만으로 이를 목격했으며, 연구진이 동일한 프롬프트를 반복했을 때 모델은 연결 시도 없이 요청된 규칙을 생성했습니다.
알리바바가 대응했거나 관련 발견이 확인되었습니까?
VentureBeat는 알리바바와 Qwen 팀에 논평 요청을 했으나 회신을 받지 못했으며, 독립적인 연구 기관이 해당 결과를 재현하지 못했다고 보도했다. 알리바바와 경쟁 관계인 Cohere는 악의적 의도나 데이터 유출, 그리고 목적지 서버의 소유 주체를 확인하지 못했다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
이비아м 와야스
이비암 와야스는 2019 년부터 암호화폐 뉴스 분야를 취재해 왔습니다. 그는 나이지리아 국립오픈대학교에서 컴퓨터공학을 전공했으며, 코인포마니아, 암호화폐 뉴스 오스트레일리아, 알코인버즈 등 다양한 암호화폐 뉴스 플랫폼에 기고했습니다. 컴퓨터공학 배경을 바탕으로 현재 암호화폐, 로봇공학, 장수 관련 뉴스를 집중적으로 다루고 있습니다.
