CEO da Anthropic diz que a DeepSeek foi a ‘pior’ em um teste crítico de segurança de dados de armas biológicas

O CEO da Anthropic, Dario Amodei, descobriu uma fraqueza mais arriscada no modelo R1 da DeepSeek que provavelmente fará com que os consumidores reconsiderem o uso do chatbot. Ele afirmou que o chatbot pode gerar informações relacionadas a armas biológicas, o que poderia ser perigoso no futuro próximo.

Em uma entrevista, Amodei disse que a DeepSeek gerou informações incomuns sobre armas biológicas durante um teste de segurança da Anthropic. Ao falar sobre o desempenho da startup de IA, ele mencionou que é, “a pior de praticamente qualquer modelo que já testamos […] Ela não tinha absolutamente nenhum bloqueio contra a geração dessas informações.”

A Anthropic testa regularmente diferentes modelos de IA para avaliar seus possíveis riscos à segurança nacional. Eles fazem isso verificando se os modelos podem produzir informações sobre armas biológicas que não estão prontamente disponíveis no Google ou em livros didáticos.

Além disso, a CISCO também hackeou com sucesso a DeepSeek R1 sem nenhuma falha. Isso é diferente de outros tipos avançados como o o1, que impedem a maioria dos ataques com seus recursos de proteção.

No entanto, Amodei disse que a fraqueza não é uma ameaça no momento. Ele também mencionou que, a menos que haja uma prova clara de perigo, haverá uma boa razão para continuar melhorando. Ele instou os engenheiros e a empresa a prestarem atenção real à segurança da IA. A DeepSeek já está enfrentando hostilidade em algumas nações, como a Itália.

Por outro lado, empresas como AWS e Microsoft anunciaram que estão adicionando o R1 aos seus serviços em nuvem. Alguns podem ver isso como parte do aprendizado da empresa, enquanto outros podem levar isso mais a sério. Não houve nenhuma resposta ou rejeição às novas descobertas. 

A IA dos EUA assume a liderança – Dario Amodei

De acordo com o CEO da Anthropic, “Agora há três a cinco empresas nos EUA e uma empresa na China. Se elas continuarem a criar modelos quase de fronteira depende de quantos chips elas podem acessar e se podem acessar chips em uma escala muito maior do que aquelas às quais conseguiram acesso agora.”

A DeepSeek justificou sua tecnologia barata em chips Nvidia comprados antes das restrições dos EUA. De acordo com Amodei, “Os controles de exportação nunca foram realmente projetados para impedir que a DeepSeek ou qualquer outra empresa chinesa obtivesse o número de chips que elas tinham no nível de algumas dezenas de milhares.”

Ele acrescentou: “Devemos esperar razoavelmente que o contrabando aconteça. Os controles de exportação podem ser mais bem-sucedidos em prevenir aquisições maiores - eles não podem ter como um milhão de chips, porque isso está facilmente nas dezenas de bilhões de atividade econômica, aproximando-se de 100 bilhões.”

A DeepSeek afirmou ter usado uma mistura de H100s, que são os chips padrão nos EUA. Eles usaram aproximadamente 10.000 desses. Isso significa que eles não devem ser muito afetados.

Na questão da China se tornar independente em seus chips, especialmente os chips Huawei, ele disse que levaria de 10 a 15 anos. Ele acrescentou: “Na verdade, será difícil fazer chips que sejam competitivos com, digamos, o novo Nvidia B100 […] Minha sensação é que é improvável que os chips Huawei se tornem em qualquer lugar perto de comparáveis aos chips dos EUA em qualquer momento próximo.”

Amodei levantou preocupações sobre leis nos Estados Unidos. Ele explicou que estão sendo feitos esforços para avaliar e potencialmente limitar os riscos dos sistemas de IA.

Isso inclui preocupações sobre seus perigos, uso indevido por indivíduos, por exemplo, em ataques biológicos e os riscos impostos pelos próprios sistemas. No último ano, houve várias novas leis nos EUA. Isso levanta a questão de se o mercado da DeepSeek sobreviverá nos EUA?

Além disso, Amodei elogiou as empresas de IA dos EUA ao explicar que elas trabalham bem juntas. Ele disse que todas seguem as mesmas regras. OpenAI, Meta, Google, e xAI precisam cumprir as regulamentações dos EUA. Ele disse: “Você pode saber que está praticando as práticas de segurança necessárias e outros também as praticarão.”

Por outro lado, ele disse: “Não acho que isso seja possível entre os EUA e a China. Estamos meio que em uma anarquia internacional hobbesiana.”

Amodei trouxe à tona que, “Estou ciente dos esforços do governo dos EUA para enviar uma delegação para conversar com a China sobre tópicos relacionados à segurança da IA. Minha compreensão, novamente, obviamente não fiz parte dessas delegações, é que não houve muito interesse do lado chinês.”

Legisladores dos EUA querem proibir a DeepSeek em dispositivos governamentais

A DeepSeek está prestes a ser atingida por outra proibição por motivos de segurança. Desta vez, pelo governo dos EUA. Semelhante à regra da TikTok, um grupo bipartidário nos EUA está sugerindo uma lei para impedir que o aplicativo de IA chinês DeepSeek seja usado em dispositivos governamentais.

Os representantes Josh Gottheimer, democrata de Nova Jersey, e Darin LaHood, republicano de Illinois, apresentaram um projeto de lei chamado “No DeepSeek on Government Devices Act” (Lei Sem DeepSeek em Dispositivos Governamentais). 

Este projeto de lei tornaria ilegal que funcionários federais usassem o aplicativo de IA chinês em dispositivos de propriedade do governo. Eles apontaram que o governo chinês poderia usar o aplicativo para espionagem e disseminação de informações falsas.

Gottheimer disse: “O Partido Comunista Chinês deixou claro que explorará qualquer ferramenta à sua disposição para minar nossa segurança nacional, espalhar desinformação prejudicial e coletar dados sobre americanos […] Simplesmente não podemos correr o risco do PCCh infiltrar os dispositivos de nossos funcionários do governo e comprometer nossa segurança nacional.”