중국 연구원들이 메타(Meta)의 이용 약관을 무시하고 군사 목적의 AI 도구를 개발했습니다

중국 인민해방군(PLA)과 연계된 연구기관들이 라마 모델을 활용해 군사 분야에 사용할 수 있는 인공지능 도구를 개발했습니다. 이와 관련한 학술 논문 세 편이 발표되었으며, 로이터 통신이 새로운 보고서를 통해 이를 검토했습니다. 

중국 3개 기관 소속 연구원 6명이 정보 처리 및 수집, 그리고 운영 의사결정을 지원하는 인공지능 도구 개발에 대해 상세히 설명했습니다.

중국이 메타의 라마 13B를 약간 수정했습니다

그들은 이 도구를 "ChatBIT"이라고 부르는데, 이는 기존의 Llama 13B 대규모 언어 모델(LLM)을 미세 조정하여 구축한 것입니다.

연구진은 ChatBIT이 "군사 분야의 대화 및 질의응답 작업에 최적화되어 있다"고 언급했으며, ChatGPT-4와 거의 동등한 수준의 여러 AI 모델을 능가하는 성능을 보였다고 밝혔습니다.

로이터 통신에 따르면, 한 연구에서 과학자들은 ChatBIT이 GPT-4의 약 90% 수준의 성능을 보인다고 구체적으로 주장했지만, 성능 테스트 방법에 대한 설명은 제공하지 않았으며, 최소한 해당 모델이 이전에 현장에서 사용된 적이 있는지에 대한 자세한 정보도 제시하지 않았습니다.

"이번 사건은 중국 인민해방군(PLA) 군사 전문가들이 오픈소스 LLM, 특히 Meta의 LLM을 군사 목적으로matic으로 연구하고 활용하려 했다는 실질적인 증거가 처음으로 드러난 사례입니다."

제임스타운 재단 준회원 써니 청.

제임스타운 재단은 워싱턴 DC에 기반을 둔 싱크탱크로, 인공지능을 포함한 중국의 신흥 및 활용 기술을 연구합니다.

메타는 이것이 중요하지 않다고 다시 한번 강조했다

메타는 자사의 AI 모델이 군사, 전쟁 및 핵 관련 용도로 사용되는 것을 방지하기 위한 조항을 마련해 두었지만, 이러한 모델이 공개되어 있기 때문에 실제로 이러한 조항을 강제할 수는 없습니다.

메타는 성명에서 중국 연구진이 구형 라마 모델, 특히 라마 13B LLM을 사용했기 때문에 이는 중요하지 않다고 밝혔습니다. 소셜 미디어 대기업인 메타는 이미 라마 4를 학습시키고 있습니다.

에 따르면 Tom's Guide, 다른 연구원들도 중국 군사 모델인 ChatBIT이 10만 건의 군사 대화 기록만 활용했다는 점을 지적했는데, 최신 버전은 수조 건의 데이터 포인트로 학습된다는 점을 고려하면 이는 극히 미미한 양입니다.

하지만 오픈소스 AI 모델을 활용하면 중국은 미국 기술 기업들이 출시한 최신 모델들을 따라잡을 수 있는 잠재력을 갖게 될 수도 있습니다.

일부 전문가는 군사 AI 훈련을 위한 소규모 데이터 세트의 실현 가능성에 의문을 제기했지만, ChatBIT의 개발은 개념 증명이 될 수 있으며, 군 연구소는 좀 더 광범위한 것을 만들 계획입니다.

이러한 발전은 미국이 중국이 오픈소스 모델의 활용 가능성을 바탕으로 군사적 우위를 점할 수 있다는 우려를 이미 갖고 있는 시점에 이루어졌습니다.

이에 따라 미국은 중국이 미국의 고급 AI 모델과 GPU에 접근하지 못하도록 수출 통제를 시행했습니다. 일부 의원들은 오픈소스 모델에 대한 접근까지 포함하여 완전한 금지를