Китайские исследователи нарушают Условия использования Meta для разработки ИИ-инструмента в военных целях

Китайские исследовательские институты, связанные с НОАК, использовали модель Llama для разработки ИИ-инструмента для применения в военных целях. По этому поводу опубликованы три академические статьи, которые были рассмотрены Reuters в новом отчете. 

Шесть исследователей из трех китайских учреждений подробно описали разработку ИИ-инструмента, который обрабатывает и собирает разведывательные данные, а также помогает в принятии оперативных решений.

Китай модифицировал Llama 13B от Meta

Этот инструмент они назвали «ChatBIT», который был создан путем тонкой настройки более ранней большой языковой модели (LLM) Llama 13B.

Исследователи отметили, что ChatBIT был «оптимизирован для задач диалога и ответов на вопросы в военной сфере» и показал лучшие результаты, чем несколько других ИИ-моделей, которые были почти сопоставимы по возможностям с ChatGPT-4.

Согласно Reuters, в одном из исследований ученые специально утверждали, что ChatBIT выполняет около 90% функций GPT-4, но не объяснили, как они тестировали его производительность или хотя бы не предоставили деталей о том, использовалась ли модель ранее в полевых условиях.

"Это первый случай, когда есть существенные доказательства того, что военные эксперты НОАК в Китае систематически исследуют и пытаются использовать возможности больших языковых моделей с открытым исходным кодом, особенно моделей Meta, в военных целях."

Сэнни Чунг, младший научный сотрудник Фонда Джеймстауна.

Фонд Джеймстауна — это аналитический центр, базирующийся в Вашингтоне, округ Колумбия, который изучает новые и двойные технологии Китая, включая ИИ.

Meta повторила, что это не имеет большого значения

Хотя в Meta есть положения, предотвращающие использование их ИИ-моделей в военных, боевых и ядерных целях, они не могут практически обеспечить соблюдение этих положений, поскольку эти модели являются общедоступными.

В заявлении Meta также указала, что это не имеет большого значения, поскольку китайские исследователи использовали старую версию модели Llama, а именно LLM Llama 13B. Социальная сеть уже тренирует Llama 4.

Согласно Tom’s Guide, другие исследователи также отметили, что китайская военная модель ChatBIT использовала всего 100 000 записей военных диалогов, что является каплей в море, учитывая, что последние версии обучаются на триллионах точек данных.

Однако использование ИИ-моделей с открытым исходным кодом потенциально может позволить Китаю догнать последние модели, выпущенные американскими технологическими компаниями.

Хотя некоторые эксперты поставили под сомнение жизнеспособность небольшого набора данных для обучения военного ИИ, разработка ChatBIT может служить доказательством концепции, при этом военные институты планируют создать что-то более масштабное.

Разработка произошла на фоне того, что США уже обеспокоены тем, что Китай может получить военное преимущество благодаря доступности моделей с открытым исходным кодом.

В связи с этим США ввели экспортный контроль, запретив Китаю доступ к своим высокотехнологичным ИИ-моделям и графическим процессорам. Некоторые законодатели также выступают за полный запрет, включая доступ к моделям с открытым исходным кодом