Fundador da ByteDance rejeita destilação enquanto os EUA visam laboratórios chineses
Foto por Claudio Schwarz no Unsplash.
- O fundador da ByteDance, Zhang Yiming, descartou a distilação para os modelos de IA da empresa.
- Essa posição separa a ByteDance da cópia furtiva que a Casa Branca acusa a Moonshot AI de usar para construir o Kimi K3.
- Isso ocorre enquanto Washington ameaça sanções por causa da distilação e a lacuna entre os modelos dos EUA e da China diminui.
O fundador da ByteDance, Zhang Yiming, afirmou que a destilação não será usada para treinar os modelos de IA da empresa. Isso diferencia a empresa de outros laboratórios de IA chineses que foram acusados de usar a técnica de destilação.
Isso ocorre enquanto funcionários dos EUA acusaram laboratórios chineses de usar a técnica para reduzir a lacuna com os modelos de IA americanos. Funcionários de Washington chegaram a ameaçar sanções.
Zhang traça uma linha quando todos os outros estão cortando custos
The Information relatório afirma Zhang Yiming, que é veementemente contra a destilação no treinamento dos modelos de IA da empresa. Zhang decidiu ser mais participativo nas ambições de IA da ByteDance e se reuniu com pesquisadores seniores para obter conhecimento de primeira mão, enquanto monitora os esforços de recrutamento da empresa.
Isso é importante porque acontece em um momento crítico da corrida da IA. Apenas neste mesmo mês, funcionários dos EUA intensificaram sua luta contra laboratórios chineses sobre a prática de destilação. A ByteDance também possui a Seedance, um modelo de vídeo lucrativo e líder em desempenho, uma façanha rara entre produtos de IA chineses.
Por que Washington desaprova a destilação
A destilação é simplesmente o treinamento de modelos de IA mais fracos nas respostas de modelos mais fortes. Isso garante que os sistemas de IA menores aprendam a imitar o sistema maior. A destilação é feita abertamente e é uma parte rotineira da indústria de IA. É considerada legal, embora geralmente seja feita em pequena escala.
Michael Kratsios, que atua como diretor do Escritório de Política de Ciência e Tecnologia da Casa Branca, alegou que a Moonshot AI destilou o modelo Fable da Anthropic ao construir o Kimi K3, seu sistema de IA.
Ele afirmou isso em um post no X de que a Moonshot executou a operação por meio de uma plataforma interna construída para o propósito, que rotacionava rotas de acesso na tentativa de evitar a detecção e usava servidores NVIDIA GB300 na Tailândia, que são proibidos de serem exportados para a China pelas regras de exportação dos EUA.
A Anthropic rastreou 3,4 milhões de conversas do Claude até a Moonshot por meio de contas falsas, segundo relatos. A Moonshot ainda não respondeu a essas alegações.
Como a ByteDance construiu a Seedance, seu modelo de IA líder
A ByteDance teve seu ponto de virada de uma maneira totalmente diferente. A empresa apostou na Seedance 2.0 apesar das disputas internas sobre o alto custo e a escala agressiva do modelo. O modelo de vídeo foi construído para ultrapassar a marca de 200 bilhões de parâmetros, mas foi considerado muito ambicioso por alguns dentro da empresa.
A medida deu certo, pois a margem bruta dos modelos oscilou entre 70% e 90%, após a empresa gastar muito com GPUs, dados e recrutamento de classe mundial.
Washington diz que a lacuna da IA está se fechando
A batalha pela destilação é a ponta do iceberg. Scott Bessent, o Secretário do Tesouro, sugeriu impor sanções se e quando as empresas chinesas adotarem a destilação em escala industrial. Um projeto de lei bipartidário da Câmara dos Representantes facilitaria a identificação e a aplicação de sanções a tentativas de destilação.
Os números levaram a uma ação urgente. Apesar de gastar 23 vezes mais que a China em IA, os EUA perderam sua liderança na corrida da IA. De acordo com o Instituto de IA Centrada no Humano de Stanford, os principais modelos de ambos os países são praticamente os mesmos.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Perguntas Frequentes
O que o fundador da ByteDance disse sobre a distilação?
Zhang Yiming descartou o uso de distilação para treinar os modelos de IA da ByteDance, distanciando a empresa da técnica no centro da atual disputa entre EUA e China.
O que a Moonshot AI é acusada de fazer?
O funcionário da Casa Branca Michael Kratsios acusou a Moonshot AI de realizar distilação furtiva do modelo Fable da Anthropic em escala industrial para construir o Kimi K3, utilizando um sistema interno dedicado e servidores NVIDIA GB300 restritos baseados na Tailândia.
Como o modelo Seedance da ByteDance teve sucesso sem distilação?
A ByteDance investiu pesadamente em talentos, dados e GPUs e apoiou o esforço do pesquisador Zeng Yan para escalar o Seedance 2.0 além de 200 bilhões de parâmetros, produzindo um modelo que agora gera mais da metade da receita de modelo como serviço da Volcano Engine.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
