O CEO da Anthropic afirma que o DeepSeek foi "o pior" em um teste crítico de segurança de dados sobre armas biológicas

O CEO da Anthropic, Dario Amodei, descobriu uma vulnerabilidade ainda mais arriscada no modelo R1 do DeepSeek, que provavelmente fará com que os consumidores reconsiderem o uso do chatbot. Ele afirmou que o chatbot pode gerar informações relacionadas a armas biológicas, o que poderia ser perigoso em um futuro próximo.

Em entrevista, Amodei afirmou que a DeepSeek gerou informações incomuns sobre armas biológicas durante um teste de segurança antrópica. Ao falar sobre o desempenho da startup de IA, ele mencionou que foi "o pior de praticamente qualquer modelo que já testamos [...] Não apresentou absolutamente nenhum mecanismo de bloqueio para impedir a geração dessas informações."

A Anthropic testa regularmente diferentes modelos de IA para avaliar seus possíveis riscos à segurança nacional. Isso é feito verificando se os modelos conseguem produzir informações sobre armas biológicas que não estão facilmente disponíveis no Google ou em livros didáticos.

Além disso, a CISCO também conseguiu invadir o DeepSeek R1 sem nenhuma falha. Isso difere de outros tipos avançados, como o o1, que previnem a maioria dos ataques com seus recursos de proteção.

No entanto, Amodei afirmou que a vulnerabilidade não representa uma ameaça no momento. Ele também mencionou que, a menos que haja provas claras de perigo, haverá um bom motivo para continuar aprimorando o sistema. Ele instou os engenheiros e a empresa a darem atenção especial à segurança da IA. A DeepSeek já enfrenta hostilidade em alguns países, como a Itália.

Por outro lado, empresas como AWS e Microsoft anunciaram que estão adicionando o R1 aos seus serviços em nuvem. Alguns podem encarar isso como parte do aprendizado da empresa, enquanto outros podem levar a questão mais a sério. Ainda não houve nenhuma resposta ou reação negativa às novas descobertas. 

A inteligência artificial dos EUA assume a liderança – Dario Amodei

Segundo o CEO da Anthropic, “Atualmente, existem de três a cinco empresas nos EUA e uma na China. Se elas continuarão a desenvolver modelos quase de vanguarda depende da quantidade de chips que conseguirem obter e se conseguirão acesso a esses chips em uma escala muito maior do que a que têm conseguido até agora.”

A DeepSeek justificou o baixo custo de sua tecnologia com o uso de chips da Nvidia adquiridos antes das restrições americanas. Segundo Amodei, “Os controles de exportação nunca foram realmente concebidos para impedir que a DeepSeek ou qualquer outra empresa chinesa obtivesse a quantidade de chips que possuía, na ordem de algumas dezenas de milhares.”  

Ele acrescentou: "Devemos razoavelmente esperar que ocorra contrabando. Os controles de exportação podem ser mais eficazes na prevenção de aquisições maiores - eles não podem ter, digamos, um milhão de chips, porque isso representa facilmente dezenas de bilhões em atividade econômica, aproximando-se de 100 bilhões."

A DeepSeek afirmou ter usado uma combinação de chips H100, que são os chips padrão nos EUA. Eles usaram aproximadamente 10.000 desses chips. Isso significa que eles não devem ser muito afetados.

Sobre a questão dadent da China na produção de chips, especialmente os da Huawei, ele disse que isso levaria de 10 a 15 anos. Ele acrescentou: "Na verdade, será difícil fabricar chips que sejam competitivos com, digamos, o novo Nvidia B100 [...] Minha impressão é que é improvável que os chips da Huawei se tornem comparáveis ​​aos chips americanos tão cedo."

Amodei expressou preocupação com as leis nos Estados Unidos. Ele explicou que estão sendo feitos esforços para avaliar e potencialmente limitar os riscos dos sistemas de IA.

Isso inclui preocupações sobre seus perigos, uso indevido por indivíduos, por exemplo, em ataques biológicos, e os riscos representados pelos próprios sistemas. No último ano, várias novas leis foram promulgadas nos EUA. Isso levanta a questão: o mercado da DeepSeek sobreviverá nos EUA?

Além disso, Amodei elogiou as empresas de IA dos EUA, explicando que elas trabalham bem juntas. Ele afirmou que todas seguem as mesmas regras. OpenAI, Meta, Google e xAI precisam cumprir as regulamentações americanas. Ele disse: "Você pode ter certeza de que está adotando as práticas de segurança necessárias e que os outros também as adotarão."

Pelo contrário, disse ele, "Não acho que isso seja possível entre os EUA e a China. Estamos numa espécie de anarquia internacional hobbesiana."

Amodei revelou que "estou ciente dos esforços do governo dos EUA para enviar uma delegação à China para discutir temas relacionados à segurança da IA. Pelo que entendi, embora eu não tenha participado dessas delegações, não houve muito interesse por parte da China."

Legisladores dos EUA querem proibir o DeepSeek em dispositivos governamentais

O DeepSeek está prestes a sofrer mais uma proibição por motivos de segurança. Desta vez, imposta pelo governo dos EUA. Semelhante à ao TikTok , um grupo bipartidário nos EUA está propondo uma lei para impedir o uso do aplicativo chinês de IA DeepSeek em dispositivos governamentais.

Os representantes Josh Gottheimer, democrata de Nova Jersey, e Darin LaHood, republicano de Illinois, apresentaram um projeto de lei chamado "Lei para Proibir o DeepSeek em Dispositivos Governamentais" 

Este projeto de lei tornaria ilegal para funcionários federais o uso do aplicativo de IA chinês em dispositivos pertencentes ao governo. Eles apontaram que o governo chinês poderia usar o aplicativo para espionagem e disseminação de informações falsas.

Gottheimer afirmou: “O Partido Comunista Chinês deixou bem claro que explorará todas as ferramentas à sua disposição para minar nossa segurança nacional, disseminar desinformação prejudicial e coletar dados sobre americanos […] Simplesmente não podemos correr o risco de o PCC infiltrar os dispositivos de nossos funcionários do governo e colocar em risco nossa segurança nacional.”