Pesquisadores chineses violam os Termos de Uso da Meta para desenvolver ferramenta de IA para fins militares

Instituições de pesquisa chinesas vinculadas às Forças Armadas Populares (PLA) usaram o modelo Llama para desenvolver uma ferramenta de IA para uso em aplicações militares. Três artigos acadêmicos foram publicados sobre este desenvolvimento, e eles foram revisados pela Reuters em um novo relatório. 

Seis pesquisadores de três instituições chinesas detalharam o desenvolvimento de uma ferramenta de IA que processa e coleta inteligência, auxiliando na tomada de decisões operacionais.

China modifica o Llama 13B da Meta

Eles chamam essa ferramenta de “ChatBIT”, que foi construída por meio do ajuste fino de um modelo de linguagem grande (LLM) Llama 13B anterior.

Os pesquisadores mencionaram que o ChatBIT foi “otimizado para tarefas de diálogo e resposta a perguntas no campo militar” e conseguiu superar vários modelos de IA que eram quase tão capazes quanto o ChatGPT-4.

De acordo com a Reuters, em uma das pesquisas, os cientistas afirmaram especificamente que o ChatBIT tem desempenho de cerca de 90% do GPT-4, mas não explicaram como testaram seu desempenho ou, pelo menos, não deram detalhes sobre se o modelo já havia sido usado anteriormente no campo.

“É a primeira vez que há evidências substanciais de que especialistas militares da PLA na China estão pesquisando sistematicamente e tentando aproveitar o poder dos LLMs de código aberto, especialmente os da Meta, para fins militares.”

Sunny Cheung, Associado da Fundação Jamestown.

A Fundação Jamestown é um think tank com sede em Washington D.C. que analisa as tecnologias emergentes e de uso duplo da China, incluindo a IA.

A Meta reiterou que isso é insignificante

Embora a Meta tenha disposições em vigor para impedir o uso de seus modelos de IA para fins militares, de guerra e nucleares, ela não pode aplicar essas disposições na prática, pois esses modelos são públicos.

Em um comunicado, a Meta também revelou que isso seria insignificante, pois os pesquisadores chineses usaram uma versão antiga do modelo Llama, especificamente o LLM Llama 13B. O gigante das redes sociais já está treinando o Llama 4.

De acordo com a Tom’s Guide, outros pesquisadores também notaram que o modelo militar chinês ChatBIT utilizou apenas 100.000 registros de diálogos militares, o que é uma gota no oceano, considerando que as versões mais recentes são treinadas com trilhões de pontos de dados.

No entanto, o uso de modelos de IA de código aberto poderia potencialmente permitir que a China alcançasse os modelos mais recentes lançados pelas empresas de tecnologia americanas.

Embora alguns especialistas tenham questionado a viabilidade de um conjunto de dados pequeno para o treinamento de IA militar, o desenvolvimento do ChatBIT pode ser uma prova de conceito, com os institutos militares planejando criar algo mais abrangente.

O desenvolvimento ocorreu em um momento em que os EUA já estavam preocupados com a possibilidade de a China obter vantagem militar com a disponibilidade de modelos de código aberto.

Como tal, os EUA impuseram controles de exportação, impedindo a China de acessar seus modelos de IA de alta gama e GPUs. Alguns legisladores também estão defendendo uma proibição total, incluindo o acesso aos modelos de código aberto