O Pentágono faz parceria com uma empresa de IA para testar novos modelos LLM
Pentágono
- A Scale AI criará um framework de teste e avaliação (T&E) para os modelos de linguagem de grande escala (LLMs) do Pentágono. O objetivo é garantir que sejam seguros e confiáveis para uso militar.
- O processo de T&E envolverá a criação de "conjuntos de dados de retenção". Fontes do Departamento de Defesa sugerirão pares de respostas. Eles serão revisados para assegurar que estejam à altura das respostas humanas no contexto militar.
- O objetivo é tornar os sistemas de IA mais robustos e resilientes. Isso permitirá o uso da tecnologia LLM em ambientes seguros. Também ajudará o DoD a compreender os pontos fortes e as limitações da tecnologia.
A Scale AI está desenvolvendo um plano de teste e avaliação (T&E) para os modelos de linguagem grande (LLMs) do Pentágono. O projeto visa garantir que os modelos de IA sejam seguros e confiáveis para uso militar.
O Escritório de Inteligência Artificial e Digital do Pentágono (CDAO) precisa de uma maneira de testar e avaliar modelos de IA para uso militar. O CDAO deseja usar LLMs para apoiar e melhorar o planejamento e a tomada de decisões militares. No entanto, os LLMs também podem perturbar esses processos.
O Pentágono tem usado processos de T&E por muito tempo para garantir que seus sistemas, plataformas e tecnologias funcionem bem. Mas, os padrões e políticas de segurança de IA ainda não estão definidos. As complexidades e incertezas dos LLMs tornam o T&E ainda mais difícil para a IA generativa.
Como funcionará?
A Scale AI criará um framework para o CDAO testar e avaliar LLMs. O processo de T&E incluirá a criação de 'conjuntos de dados de retenção' onde insiders do DoD gerarão pares de prompt e resposta e os revisarão em camadas. Os especialistas garantirão que cada resposta esteja à altura de uma resposta humana no contexto militar.
O processo será iterativo e, uma vez que os conjuntos de dados estejam prontos, os especialistas avaliarão os LLMs existentes contra eles. Eventualmente, os modelos enviarão sinais aos funcionários do CDAO se começarem a se desviar dos domínios contra os quais foram testados.
O objetivo do Pentágono
O objetivo é melhorar a robustez e a resiliência dos sistemas de IA em ambientes classificados. Isso permitirá a adoção da tecnologia LLM em ambientes seguros. A empresa planeja automatizar o máximo possível do processo de desenvolvimento. Dessa forma, à medida que novos modelos chegarem, haverá uma compreensão básica de como eles se sairão, onde terão melhor desempenho e onde provavelmente começarão a falhar.
Benefícios da parceria
A parceria entre a Scale AI e o DoD é um passo significativo rumo à garantia do implantação segura e responsável de LLMs e IA generativa dentro do setor militar. O framework T&E ajudará o DoD a entender os pontos fortes e limitações da tecnologia. Também garantirá que os modelos sejam confiáveis, seguros e eficazes para aplicações militares.
O CEO da Scale AI, Alexandr Wang, disse: 'Testar e avaliar a IA generativa ajudará o DoD a entender os pontos fortes e limitações da tecnologia, para que possa ser implantada de forma responsável. A Scale tem a honra de fazer parceria com o DoD neste framework.'
Além do CDAO, a Scale AI fez parcerias com Meta, Microsoft, Exército dos EUA, Unidade de Inovação de Defesa, OpenAI, General Motors, Instituto de Pesquisa Toyota, Nvidia e outros. Essas parcerias mostram o compromisso da Scale AI em garantir a implantação segura e responsável da tecnologia de IA.
A parceria entre a Scale AI e o Pentágono é um grande passo. É rumo a garantir o uso seguro de LLMs e IA generativa no setor militar. O framework T&E ajudará o Departamento de Defesa (DoD) a entender os pontos fortes e limites da tecnologia. Também garantirá que os modelos sejam confiáveis, seguros e eficazes. Isso é para uso militar. Com a expertise da Scale AI e a necessidade do Pentágono de T&E, esta parceria é um ganha-ganha para ambas as partes.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assumimos responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Randa Moses
Randa Moses é editora e repórter na Cryptopolitan, cobrindo tecnologia, IA, robótica, criptomoedas, golpes e hacks. Ela atua no espaço de criptomoedas desde 2017. Já ocupou cargos na Forward Protocol, AmaZix e Cryptosomniac. Randa possui graduação em Engenharia Elétrica e Eletrônica pela Universidade de Bradford.
