O memorando da OpenAI aos legisladores dos EUA acusa a DeepSeek, da China, de burlar os controles de acesso

A OpenAI alertou o governo dos EUA de que a startup chinesa de inteligência artificial DeepSeek está tentando replicar sistemas de IA americanos, burlando as medidas de segurança da plataforma etracos resultados dos modelos.

Em um memorando enviado na quinta-feira ao Comitê Seleto da Câmara dos Representantes dos EUA sobre Competição Estratégica entre os Estados Unidos e o Partido Comunista Chinês, o desenvolvedor do modelo de linguagem ChatGPT acusou seu concorrente, sediado em Hangzhou, de copiarmatictecnologia desenvolvida por laboratórios de ponta dos EUA.

https://twitter.com/niubi/status/2022132145465307425

O relatório afirma que a DeepSeek tem se aproveitado indevidamente das capacidades desenvolvidas pela OpenAI e outros laboratórios de ponta dos EUA, uma prática conhecida como destilação.

“Observamos relatos associados a funcionários da DeepSeek desenvolvendo métodos para contornar as restrições de acesso da OpenAI e acessar modelos por meio de roteadores de terceiros ofuscados e outras formas que mascaram sua origem”, escreveu. “Funcionários da DeepSeek desenvolveram código para acessar modelos de IA dos EUA e obter resultados para destilação de forma programáticamatic ”

Washington e Pequim têm competido pela liderança em IA desde a estreia do DeepSeek, há cerca de 12 meses. Após o lançamento do modelo chinês LLM, o Comitê Seleto da Câmara dos Representantes dos EUA observou que o PCC solicitou à OpenAI que investigasse se o DeepSeek havia utilizado alguma tecnologia ou chip de IA dos EUA em seu desenvolvimento.

Criador do ChatGPT acusa DeepSeek de destilação ilegal

Segundo a empresa de tecnologia liderada por Sam Altman, agentes chineses estão usando canais de informação para imitar os métodos de laboratórios de geração de dados sintéticos de IA dos EUA. A empresa também relatou que algumas empresas chinesas criaram redes de revendedores não autorizados de serviços da OpenAI para burlar a lei.

“Existem casos de uso legítimos para a destilação: como uma técnica usada para treinar modelos menores utilizando resultados de sistemas mais avançados. A OpenAI oferece caminhos de destilação responsáveis ​​para desenvolvedores. No entanto, não permitimos que nossos resultados sejam usados ​​para criar modelos de IA de ponta que imitem nossas capacidades.”

OpenAI.

A OpenAI também alertou que a cópia de funcionalidades por meio de destilação adversária, sem estruturas de segurança equivalentes, pode produzir sistemas que carecem de proteção ao consumidor, embora sejam mais baratos de escalar. A empresa afirmou que as deficiências em tais sistemas podem surgir somente após a implantação, quando os riscos são mais difíceis de gerenciar.

Além das alegações técnicas, o memorando da OpenAI observou que a governança de conteúdo do DeepSeek foi considerada politicamente tendenciosa e propensa a impor ampla censura. No âmbito da empresa, o LLM mais utilizado na China apresentou um viés pró-PCC acentuado em versões recentes.

“O modelo evitará linguagem negativa ou crítica sobre o PCC, usará linguagem positiva sobre os esforços e conquistas da RPC e usará linguagem negativa ao discutir os EUA ou o Ocidente.”

Memorando da OpenAI.

A OpenAI afirmou que, quando . questionado sobre tópicos sensíveis a Pequim, como a Praça Tiananmen ou a independência de Taiwan, o DeepSeek frequentemente emitia respostas categoricamente negativas. Em outros casos, o DeepSeek apresentou respostas tendenciosas a notícias favoráveis ​​à República Popular da China e redirecionou perguntas que pareciam ser críticas ao Partido Comunista Chinês

Em algumas ocasiões, o DeepSeek se recusa a dar uma resposta que considera "prejudicial". Quando questionado sobre o motivo da pergunta ser prejudicial, observou-se que ele explica seus "princípios de segurança" e, em seguida, apaga a conversa. Quando questionado sobre o Falun Gong, recusou-se a responder e, ao buscar uma explicação, a resposta se apagou automaticamente logo após a palavra "Falun"

OpenAI.

Os EUA têm vantagem sobre a China devido aos chips tecnológicos

Segundo um memorando da OpenAI para legisladores dos EUA, o recurso mais escasso em IA é a combinação de energia elétrica e recursos de chips necessários para executar o código, deficomo poder computacional. O documento afirma que a manutenção da vantagem americana depende da capacidade de gerar e fornecer eletricidade em larga escala para atender às demandas computacionais.

No mês passado, duas fontes familiarizadas com o assunto disseram a repórteres que as autoridades chinesas aprovaram a compra dos chips de inteligência artificial H200 da Nvidia pela DeepSeek, sujeita a condições regulatórias que ainda estão sendo finalizadas. 

dos EUA,dent Trump, deu sinal verde para o pedido da Nvidia de enviar chips H200 para Pequim no início de janeiro, mas os reguladores chineses têm a autoridade final para autorizar os envios. Na época, o CEO da Nvidia, Jensen Huang, disse que sua empresa não havia recebido nenhuma confirmação da aprovação da China.