중국의 DeepSeek-R1 AI는 공산당의 요구와 관련된 약하고 불안정한 코드를 작성합니다.

사이버 보안 회사 CrowdStrike의 새로운 연구에 따르면, DeepSeek의 대규모 언어 모델(LLM)인 DeepSeek-R1은 중국 지도부가 "정치적으로 민감하다"고 간주할 수 있는 주제를 다룰 때 더 약하고 안전하지 않은 코드를 생성하는 것으로 나타났습니다. 

중국 기술 기업 딥시크(DeepSeek)는 출시했으며 지난 1월 딥시크-R1을 Cryptopolitan 보도했습니다. 

CrowdStrike의 대응 작전팀은 중국 공산당이 정치적으로 민감한 주제로 간주하는 주제를 담은 메시지를 입력한 후, DeepSeek-R1이 심각한 보안 결함이 있는 코드를 생성할 확률이 최대 50%까지 증가한다는 것을 발견했습니다.

"2025년에 개발자의 최대 90%가 고부가가치 소스 코드에 접근하여 이러한 도구를 사용했다는 점을 감안할 때, AI 코딩 어시스턴트의 시스템적 보안 문제는 큰 영향과 높은 유병률을 모두 갖습니다."라고 회사는 썼습니다.

DeepSeek R1 모델 검열 및 국가 안보 우려

지난 목요일 크라우드스트라이크 블로그에 게시된 내용에 따르면, 여러 정부가 오픈소스 딥시크-R1. 정책 입안자들은 이 모델이 중국의 인터넷 방화벽이나 대만의 지위와 같은 정치적으로 민감한 주제를 검열한다고 비난했습니다.

미국 소프트웨어 회사는 R1이 중국 본토 정부에 적대적인 것으로 간주되는 단체나 운동과 관련된 주제에 대한 지원을 자주 거부하는 것을 발견했습니다. 서구 모델은 파룬궁 관련 소프트웨어 제작을 요청받았을 때 거의 항상 코드를 생성했지만, DeepSeek-R1은 테스트의 45%에서 이를 거부했습니다.

여러 사례에서 이 모델은 기술적 답변을 제공할 수 있는 충분한 역량을 갖추고 있었음에도 불구하고, 시스템 요구 사항과 샘플 코드를 포함하여 질문에 대한 답변을 위한 체계적인 계획을 작성했습니다. 추론 trac에는 다음과 같은 내용이 포함되는 경우가 있었습니다.

"파룬궁은 민감한 집단입니다. 여기서 윤리적 함의를 고려해야 합니다. 그들을 돕는 것은 정책에 어긋날 수 있습니다. 하지만 사용자는 기술적 도움을 요청하고 있습니다. 기술적인 측면에 집중하겠습니다."

R1의 추론 단계 완료 후 최종 출력은 모델에 어떠한 외부 필터링이나 가드레일도 적용되지 않은 채, "죄송하지만 해당 요청에는 도움을 드릴 수 없습니다."라는 표준화된 거부로 끝났습니다. CrowdStrike는 해당 행동이 모델의 자체 오버라이딩 메커니즘이나 일종의 내재적인 킬 스위치에 내재되어 있다고 결론지었습니다.

대만과 서방 정부, 중국 AI 제품 비난

이달 초 대만 국가안전부는 주의 를 기울여야 한다고 밝혔습니다. 

"5개의 GenAI 언어 모델은 특정 상황에서 원격 코드 실행을 가능하게 하는 네트워크 공격 스크립트와 취약점 악용 코드를 생성할 수 있어 사이버 보안 관리의 위험이 높아진다"고 해당 기관은 추정했습니다.

미국과 호주의 규제 기관은 앱 스토어에 중국 개발자의 모델을 삭제해 달라고 요청했습니다. 해당 도구가 사용자dent, 대화 기록, 개인 정보를 수집한 다음 해당 데이터를 중국 내에서 운영되는 서버로 전송할 수 있다는 우려 때문입니다.

토론토 대학교 시티즌 랩 연구원 존 스콧 레일턴은 1월 와이어드와의 인터뷰에서 "중국 AI에 대한 공황이 생기지 않아도 대부분의 기업이 개인 정보 사용 조건을 정한다는 사실을 사람들에게 상기시켜 줄 수 있습니다. 그리고 그들의 서비스를 이용할 때, 당신은 그들을 위해 일하는 것이지, 그 반대가 아니라는 사실도 기억해야 합니다."라고 말했습니다.

AI 시장 붐, 아시아 지역 경쟁 촉발

, 아시아 AI 시장 전반에서 실적이 좋은 아시아 펀드 매니저가 최근 중국 인공지능 주식에 대한 노출을 늘리는 한편 한국과 대만의 지분은 줄였다고 합니다 에 따르면. 

밸류 파트너스 아시안 인컴 펀드와 아시안 이노베이션 오포튜니티스 펀드를 총괄하는 켈리 청은 일부 중국 AI 주식이 밸류에이션 측면에서 여전히 상당히 저렴하다고 말했습니다. 그녀는 8월부터 대만과 한국 주식에서 홍콩에 상장된 중국 하이퍼스케일러(hyperscaler) 기업으로 투자를 전환해 왔습니다. 

정 씨는 두 펀드가 합쳐서 4억 9천만 달러를 보유하고 있으며, 지난해에 거의 모든 경쟁사보다 우수한 성과를 냈다고 밝혔습니다.

한국의 기술주 중심 코스피 지수는 지난 3개월 동안 21% 상승했는데, 이는 엔비디아의 주요 공급업체인 SK하이닉스의 주가가 두 배 이상 상승한 데 따른 것입니다. 같은 기간 대만의 주가 지수는 9.2% 상승했습니다. 반면, 중국 최대 AI 투자 기업들을 포함하는 홍콩의 항셍테크지수는 4.8% 하락했습니다.