Pesquisadores chineses desafiam os Termos de Uso da Meta para desenvolver ferramenta de IA para fins militares

Instituições de pesquisa chinesas ligadas ao Exército Popular de Libertação (PLA) utilizaram o modelo Lhama para desenvolver uma ferramenta de IA para uso em aplicações militares. Três artigos acadêmicos foram publicados sobre esse desenvolvimento e analisados ​​pela Reuters em uma nova reportagem. 

Seis pesquisadores de três instituições chinesas elaboraram o desenvolvimento de uma ferramenta de IA que processa e coleta informações, auxiliando na tomada de decisões operacionais.

A China fez ajustes no Llama 13B da Meta

Eles chamam essa ferramenta de "ChatBIT", que foi construída a partir do aprimoramento de um modelo de linguagem Llama 13B (LLM) anterior.

Os pesquisadores mencionaram que o ChatBIT foi "otimizado para tarefas de diálogo e resposta a perguntas no campo militar" e conseguiu superar diversos modelos de IA que eram quase tão capazes quanto o ChatGPT-4.

Segundo a Reuters, em uma das pesquisas, os cientistas afirmaram especificamente que o ChatBIT tem um desempenho de cerca de 90% do GPT-4, mas não explicaram como testaram seu desempenho nem deram detalhes sobre se o modelo já havia sido usado anteriormente na área.

“Esta é a primeira vez que há evidências substanciais de que especialistas militares do Exército Popular de Libertação da China têm pesquisadomatice tentado aproveitar o poder dos LLMs de código aberto, especialmente os da Meta, para fins militares.”

Sunny Cheung, membro associado da Jamestown Foundation.

A Jamestown Foundation é um think tank sediado em Washington, D.C., que analisa as tecnologias emergentes e de uso previsto na China, incluindo a inteligência artificial.

Meta reiterou que isso era insignificante

Embora a Meta possua mecanismos que impedem o uso de seus modelos de IA para aplicações militares, de guerra e nucleares, ela não pode, na prática, fazer cumprir esses mecanismos, pois esses modelos são públicos.

Em um comunicado, a Meta também revelou que isso seria insignificante, pois os pesquisadores chineses estão usando uma versão antiga do modelo Llama, especificamente o Llama 13B LLM. A gigante das redes sociais já está treinando o Llama 4.

Segundo o Tom's Guide, outros pesquisadores também observaram que o modelo militar chinês ChatBIT utilizou apenas 100.000 registros de diálogos militares, o que é uma gota no oceano, visto que as versões mais recentes são treinadas com trilhões de pontos de dados.

No entanto, o uso de modelos de IA de código aberto pode potencialmente permitir que os chineses alcancem os modelos mais recentes lançados por empresas de tecnologia americanas.

Embora alguns especialistas tenham questionado a viabilidade de um pequeno conjunto de dados para o treinamento de IA militar, o desenvolvimento do ChatBIT pode ser uma prova de conceito, com os institutos militares planejando criar algo mais abrangente.

O desenvolvimento ocorre num momento em que os EUA já estavam preocupados com a possibilidade de a China obter vantagem militar graças à disponibilidade de modelos de código aberto.

Sendo assim, os EUA impuseram controles de exportação, impedindo a China de acessar seus modelos de IA de ponta e GPUs. Alguns legisladores também estão pressionando por uma proibição total, incluindo o acesso aos modelos de código aberto.