중국의 DeepSeek-R1 AI는 공산당의 요구에 맞춰 더 약하고 보안이 취약한 코드를 작성합니다

보안 기업 크라우드스트라이크의 새로운 연구에 따르면, 딥시크의 대규모 언어 모델(LLM)인 DeepSeek-R1은 중국 지도부가 '정치적으로 민감한' 것으로 간주할 수 있는 주제에 대한 프롬프트를 입력했을 때 더 약하고 보안이 취약한 코드를 생성하는 것으로 나타났습니다. 

중국 기반 기술 기업 딥시크 도입했습니다 딥시크-R1은 1월 출시되었으며, 중국 및 미국 스토어 모두에서 출시 첫 주 가장 많이 다운로드된 AI 모델이 되었습니다. 크립토폴리탄이 보고했습니다. 

크라우드스트라이크의 적대적 운영 대응 팀은 중국 공산당이 정치적으로 민감하다고 간주하는 주제를 포함한 프롬프트를 입력했으며, DeepSeek-R1이 심각한 보안 결함이 있는 코드를 생성할 확률이 최대 50%까지 증가하는 것을 발견했습니다.

“2025년 개발자의 최대 90%가 이미 이러한 도구를 고가치 소스 코드 접근 권한과 함께 사용했으며, AI 코딩 어시스턴트의 시스템적 보안 문제는 높은 영향력과 높은 빈도를 모두 지닌다”고 해당 기업은 작성했다.

DeepSeek R1 모델 검열 및 국가 안보 우려

지난 목요일 발표된 CrowdStrike의 블로그에 따르면, 여러 정부가 오픈소스에 대한 제한 또는 전면 금지를 발표했으며 DeepSeek-R1정책 입안자들은 중국 인터넷 검열망과 대만 지위에 대한 질문 등 정치적 민감한 주제를 검열했다는 이유로 해당 모델을 비판했다.

미국 소프트웨어 회사는 R1이 본토 중국 정부에 적대적이라고 간주된 집단이나 운동과 관련된 주제에 대해 자주 도움을 거부하는 것을 발견했다. 서양 모델은 파룬궁과 관련된 소프트웨어 생성을 요청할 때 거의 항상 코드를 생성했지만, DeepSeek-R1은 실험의 45%에서 이를 거부했다.

여러 사례에서 모델은 기술적 답변을 제공할 수 있었음에도 불구하고 시스템 요구사항과 샘플 코드를 포함한 질문 응답을 위한 구조화된 계획을 작성했습니다. 추론 과정에는 때때로 다음과 같은 내용이 포함되었습니다.

“팔룬궁은 민감한 집단입니다. 여기서 윤리적 함의를 고려해야 합니다. 그들을 돕는 것이 정책 위반일 수 있습니다. 하지만 사용자는 기술적 도움을 요청하고 있습니다. 기술적 측면에 집중하겠습니다.”

R1의 추론 단계 완료 후 최종 출력은 모델에 외부 필터링이나 가드레일이 적용되지 않은 상태에서 표준화된 거절 문구인 “죄송합니다만, 해당 요청을 도와드릴 수 없습니다”로 끝났습니다. 크라우드스트라이크는 이러한 행동이 모델의 자기 재정의 메커니즘 또는 일종의 내재된 킬 스위치에 내장되어 있다고 결론지었습니다.

대만과 서방 정부들이 중국산 AI 제품을 비난

이번 달 초 대만 국가안전국의 성명에서 는 시민들은 딥시크와 두바오, 이이안, 통이, 위안바오 등 중국 기업 4곳이 개발한 생성형 AI 시스템을 사용할 때 주의해야 합니다. 

“이 5개 생성형 AI 언어 모델은 특정 상황에서 원격 코드 실행을 가능하게 하는 네트워크 공격 스크립트와 취약점 악용 코드를 생성할 수 있어 사이버 보안 관리 위험을 증가시킵니다.”라고 국가는 평가했습니다.

미국과 호주 규제당국은 이러한 도구들이 사용자 신원, 대화 기록 및 개인 정보를 수집하여 중국 내 서버로 전송할 수 있다는 우려 때문에 앱 스토어에 중국 개발자의 모델을 제거할 것을 요청했습니다.

“중국 AI에 대한 공황이 대부분의 기업이 귀하의 개인 데이터 사용 조건을 설정한다는 사실, 그리고 귀하가 그들의 서비스를 사용할 때 그들을 위해 일하는 것이지 그 반대라는 사실을 사람들에게 상기시켜야 한다는 점을 상기시켜야 합니다.”라고 토론토 대학교 시민랩 연구원 존 스콧-레일톤은 1월 와이어드와의 인터뷰에서 말했습니다.

AI 시장 호황이 아시아 지역 경쟁을 촉발

더 넓은 아시아 AI 시장에서 상위 아시아 펀드 매니저 한 명이 최근 중국 인공지능 주식에 대한 노출을 늘리고 한국과 대만의 보유량을 줄였다고 일본 타임즈 등 뉴스 매체가 보도했습니다. 6월 DFS가 기존 안전 장치를 유지하면서 GENIUS ACT와 일치하는 새로운 스테이블코인 규제를 제안했다고 보도했습니다. 여기에는 완전한 준비금 backing과 독립적인 감사 포함됩니다.. 

밸류 파트너스 아시아 인컴 펀드와 아시아 인노베이션 오버슈어티즈 펀드를 공동 책임지고 있는 켈리 창은 일부 중국 AI 주식들이 여전히 밸류에이션 측면에서 매우 저렴하다고 말했습니다. 그녀는 8월부터 대만과 한국 주식에서 홍콩 상장 중국 하이퍼스케일러 기업으로 자산을 회전시켜 왔습니다. 

창은 총 4억 9,000만 달러를 보유한 두 펀드가 지난 1년 동안 거의 모든 경쟁사를 능가했다고 지적했습니다.

SK하이닉스(엔비디아의 주요 공급업체)의 주가가 두 배 이상 오르며 견인한 남한의 기술주 중심 코스피는 지난 3개월간 21% 상승했습니다. 대만 주가지수는 같은 기간 동안 9.2% 상승했습니다. 반면 중국 최대 AI 지출사를 포함하는 홍콩 항셍 테크 지수는 4.8% 하락했습니다.