Memorando da OpenAI aos legisladores dos EUA acusa a DeepSeek da China de contornar controles de acesso
- A OpenAI informa aos legisladores dos EUA que a startup chinesa de IA DeepSeek está contornando controles de acesso para extrair e replicar modelos de IA americanos por meio de métodos sofisticados de destilação.
- O memorando detalha alegações de censura, viés pró-PCCh e supressão dinâmica de conteúdo nos sistemas da DeepSeek, além de preocupações com a ausência de salvaguardas de segurança.
- A OpenAI também destaca a rápida expansão energética da China e o acesso a chips, alertando que capacidade computacional e infraestrutura são centrais para a crescente corrida de IA entre EUA e China.
A OpenAI alertou o governo dos EUA de que a startup chinesa de inteligência artificial DeepSeek está tentando replicar os sistemas de IA americanos contornando as salvaguardas da plataforma e extraindo saídas do modelo.
Em um memorando enviado na quinta-feira ao Comitê Seletivo da Câmara dos Representantes dos EUA sobre a Competência Estratégica entre a América e o Partido Comunista Chinês, o desenvolvedor do modelo de linguagem grande ChatGPT acusou seu concorrente sediado em Hangzhou de sistematicamente copiar a tecnologia desenvolvida por laboratórios de fronteira dos EUA.
https://twitter.com/niubi/status/2022132145465307425
O relatório afirma que a DeepSeek tem sido “carona nas capacidades desenvolvidas pela OpenAI e outros laboratórios de fronteira dos EUA”, uma prática conhecida como destilação.
“Observamos contas associadas a funcionários da DeepSeek desenvolvendo métodos para contornar as restrições de acesso da OpenAI e acessar modelos por meio de roteadores de terceiros ofuscados e outras maneiras que mascaram sua origem”, disse a empresa escreveu. “Funcionários da DeepSeek desenvolveram código para acessar modelos de IA dos EUA e obter saídas para destilação de maneiras programáticas.”
Washington e Pequim têm competido pelo topo da IA desde o lançamento da DeepSeek há cerca de 12 meses. Após o lançamento do modelo de linguagem grande (LLM) chinês, o Comitê Seletivo da Câmara dos Representantes dos EUA observou que o PCC solicitou à OpenAI que investigasse se a DeepSeek havia usado alguma tecnologia ou chips de IA dos EUA em seu desenvolvimento.
Criador do ChatGPT acusa a DeepSeek de destilação ilegal
De acordo com a empresa liderada por Sam Altman, atores chineses estão usando pipelines de informação para imitar os métodos dos laboratórios de geração de dados sintéticos de IA dos EUA. A empresa também relatou que algumas empresas chinesas criaram redes de revendedores não autorizados de serviços da OpenAI para evadir a aplicação da lei.
“Existem casos de uso legítimos para destilação: como uma técnica usada para treinar modelos menores usando saídas de sistemas mais avançados. A OpenAI fornece caminhos de destilação responsáveis para desenvolvedores. No entanto, não permitimos que nossas saídas sejam usadas para criar modelos de IA de fronteira de imitação que replicam nossas capacidades.”
OpenAI.
A OpenAI também alertou que copiar capacidades por meio de destilação adversarial, sem frameworks de segurança equivalentes, pode produzir sistemas que carecem de proteções ao consumidor, embora sejam mais baratos de escalar. Ela disse que as deficiências nesses sistemas podem surgir apenas após a implantação, quando os riscos são mais difíceis de gerenciar.
Além das alegações técnicas, o memorando da OpenAI observou que a governança de conteúdo da DeepSeek foi considerada politicamente tendenciosa e impunha extensa censura. Dentro do escopo da empresa, o LLM mais amplamente usado na China mostrou um forte viés pró-PCC em lançamentos recentes.
“O modelo evitará linguagem negativa ou crítica sobre o PCC, usará linguagem positiva sobre os esforços e conquistas da RPC e usará linguagem negativa ao discutir os EUA ou o Ocidente.”
Memorando da OpenAI.
A OpenAI disse que quando DeepSeek foi perguntado sobre tópicos sensíveis para Pequim, como a Praça da Paz Celestial ou a independência de Taiwan, frequentemente emitia recusas diretas. Em outros casos, a DeepSeek emitiu respostas tendenciosas a histórias favoráveis à RPC e redirecionou prompts que pareciam ser críticas ao PCC.
“Em algumas ocasiões, a DeepSeek se recusa a dar uma resposta que considera ‘prejudicial’. Quando perguntado por que a pergunta é prejudicial, observou-se que ela explica seus ‘princípios de segurança’ e, em seguida, exclui a conversa. Quando perguntado sobre o Falun Gong, recusou-se a responder e, ao procurar uma explicação, a resposta foi excluída imediatamente após a conclusão da palavra Falun.”
OpenAI.
Os EUA têm vantagem sobre a China devido aos chips de tecnologia
De acordo com o memorando da OpenAI para os formuladores de políticas dos EUA, o recurso mais escasso na IA é o poder combinado e os recursos de chips necessários para executar código, definido como computação (compute). Ela disse que sustentar a vantagem americana depende da capacidade de gerar e entregar eletricidade em escala para atender às demandas computacionais.
No mês passado, duas fontes familiarizadas com o assunto disseram aos repórteres que as autoridades chinesas aprovaram a compra de chips de inteligência artificial H200 da Nvidia pela DeepSeek, sujeitas a condições regulatórias que ainda estão sendo finalizadas.
O presidente dos EUA, Trump aprovou o pedido da Nvidia para enviar chips H200 para Pequim no início de janeiro, mas os reguladores chineses têm a autoridade final para permitir os envios. Na época, o CEO da Nvidia, Jensen Huang, disse que sua empresa não havia recebido notícias da aprovação da China.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Florence Muchai
Florence cobre notícias sobre criptoativos, jogos, tecnologia e IA há 6 anos. Sua graduação em Estudos de Computação na Meru University of Science and Technology e em Gestão de Desastres e Diplomacia Internacional no MMUST equipam-na plenamente com habilidades linguísticas, de observação e técnicas. Florence trabalhou no VAP Group e como editora em várias casas de mídia de criptoativos.
