중국 연구자들이 메타의 이용약관을 위반하여 군사 목적으로 AI 도구 개발

중국 인민해방군과 연결된 중국 연구 기관들은 군사 응용 분야에서 사용하기 위해 Llama 모델을 사용하여 AI 도구를 개발했습니다. 이 개발과 관련하여 세 편의 학술 논문이 출판되었으며, 이는 새로운 보고서에서 로이터에 의해 검토되었습니다. 

세 중국 기관의 여섯 연구자들은 정보 처리 및 수집을 돕고 운영 결정에 도움을 주는 AI 도구 개발을 상세히 설명했습니다.

중국은 메타의 Llama 13B를 수정했습니다.

그들은 이 도구를 “ChatBIT”라고 부르며, 이는 이전의 Llama 13B 대규모 언어 모델(LLM)을 미세 조정하여 구축되었습니다.

연구자들은 ChatBIT가 “군사 분야의 대화 및 질문 답변 작업에 최적화되었다”고 언급했으며, ChatGPT-4와 거의 동등한 능력을 가진 여러 AI 모델보다 성능이 우수했습니다.

로이터에 따르면, 한 연구에서 과학자들은 ChatBIT가 GPT-4의 약 90%를 수행한다고 구체적으로 주장했지만, 성능 테스트 방법이나 모델이 이전에 현장에서 사용되었는지 여부에 대한 세부 사항을 설명하지 않았습니다.

“중국 PLA 군사 전문가들이 오픈 소스 LLM, 특히 메타의 LLM의 힘을 군사 목적으로 체계적으로 연구하고 활용하려는 시도를 한 것은 이번이 처음입니다.”

제임스타운 재단의 부속 연구원 Sunny Cheung.

제임스타운 재단은 워싱턴 D.C. 기반의 싱크탱크로, AI를 포함한 중국의 부상하는 및 이중 용도 기술을 조사합니다.

메타는 이것이 중요하지 않다고 재차 강조했습니다.

메타는 AI 모델을 군사, 전쟁 및 핵 응용 분야에서 사용하는 것을 방지하기 위한 규정을 갖추고 있지만, 이러한 모델이 공개되어 있기 때문에 실제로 이러한 규정을 시행할 수는 없습니다.

메타는 성명에서 이것이 중국 연구자들이 Llama 모델의 이전 버전, 구체적으로 Llama 13B LLM을 사용했기 때문에 중요하지 않을 것이라고 밝혔습니다. 이 소셜 미디어 거대 기업은 이미 Llama 4를 훈련 중입니다.

Tom’s Guide에 따르면, 다른 연구자들도 중국 군대 모델 ChatBIT가 100,000개의 군사 대화 기록만 사용했으며, 이는 최신 버전이 수조 개의 데이터 포인트로 훈련된다는 사실 때문에 물 한 방울에 불과하다고 지적했습니다.

그러나 오픈 소스 AI 모델의 사용은 잠재적으로 중국이 미국 기술 기업이 출시한 최신 모델에 뒤처지는 것을 방지하는 데 도움이 될 수 있습니다.

일부 전문가들은 소규모 데이터셋이 군사 AI 학습에 적합한지에 의문을 제기해 왔지만, ChatBIT의 개발은 개념 증명의 역할을 할 수 있으며, 군사 기관들은 더 포괄적인 시스템을 구축할 계획을 가지고 있습니다.

이 개발은 미국이 오픈소스 모델의 가용성에 힘입어 중국이 군사적 우위를 점할 수 있다는 우려를 이미 가지고 있는 시점에 이루어졌습니다.

이에 따라 미국은 중국이 고급 AI 모델과 GPU에 접근하는 것을 금지하는 수출 통제를 부과했습니다. 일부 입법자들은 또한 오픈 소스 모델에 대한 접근을 포함한 완전한 금지를 추진하고 있습니다.