Основатель ByteDance отвергает технологию дистилляции, поскольку США преследуют китайские лаборатории

Основатель ByteDance Чжан Имин заявил, что метод дистилляции не будет использоваться для обучения моделей искусственного интеллекта компании. Это отличает компанию от других китайских лабораторий ИИ, которые обвинялись в использовании метода дистилляции.

Это происходит на фоне обвинений американских чиновников в адрес китайских лабораторий в использовании этой технологии для устранения разрыва с американскими моделями искусственного интеллекта. Вашингтонские чиновники даже пригрозили санкциями.

Чжан проводит черту, когда все остальные идут на компромиссы

В информационном отчете говорится, что Чжан Имин категорически против метода дистилляции при обучении моделей ИИ компании. Чжан решил активнее участвовать в реализации амбиций ByteDance в области ИИ и встречался со старшими научными сотрудниками, чтобы получить информацию из первых рук, а также следит за процессом найма персонала в компании.

Это важно, потому что происходит в критический момент гонки за искусственный интеллект. Только в этом же месяце американские чиновники повысили ставки в своей борьбе с китайскими лабораториями из-за практики дистилляции. ByteDance также владеет Seedance, прибыльной и лидирующей по производительности моделью видеопроизводства, что является редким достижением среди китайских продуктов на основе ИИ.

Почему Вашингтон неодобрительно относится к дистилляции

Дистилляция — это просто обучение более слабых моделей ИИ на основе ответов болееtronмоделей. Это гарантирует, что меньшие по размеру системы ИИ научатся имитировать более крупную систему. Дистилляция проводится открыто и является обычной частью индустрии ИИ. Она считается законной, хотя обычно проводится в небольших масштабах.

Майкл Крациос, директор Управления по научно-технической политике Белого дома, заявил, что компания Moonshot AI использовала модель Fable компании Anthropic при создании своей системы искусственного интеллекта Kimi K3.

В своем сообщении на X он заявил, что Moonshot проводила операцию с помощью специально разработанной внутренней платформы, которая меняла пути доступа, чтобы избежать обнаружения, и использовала серверы NVIDIA GB300 в Таиланде, экспорт которых в Китай запрещен американскими экспортными правилами. 

По сообщениям, компания Anthropic trac3,4 миллиона переписок Клода с Moonshot через фейковые аккаунты. Moonshot пока не ответила на эти обвинения.

Как компания ByteDance создала Seedance, свою ведущую модель искусственного интеллекта

Поворотный момент в истории ByteDance произошел совершенно иным образом. Компания рискнула, вложив средства в Seedance 2.0, несмотря на внутренние разногласия по поводу высокой стоимости и агрессивного масштабирования модели. Модель для обработки видео была рассчитана на масштабирование до более чем 200 миллиардов параметров, но некоторые сотрудники компании сочли ее слишком амбициозной.

Этот шаг оказался удачным, поскольку валовая прибыль от этих моделей колебалась в районе 70-90% после того, как компания вложила значительные средства в графические процессоры, данные и высококвалифицированный персонал.

В Вашингтоне заявляют, что разрыв в развитии ИИ сокращается

Битва вокруг дистилляции — это лишь верхушка айсберга. Министр финансов Скотт Бессент предложил ввести санкции, если и когда китайские компании начнут перерабатывать топливо в промышленных масштабах. Двухпартийный законопроект Палаты представителей упростил быdentи пресечение попыток переработки топлива.

Эти цифры побудили к срочным действиям. Несмотря на то, что США тратят на ИИ в 23 раза больше, чем Китай, они утратили свое лидерство в гонке за ИИ. По данным Стэнфордского института человекоориентированного ИИ, лучшие модели из обеих стран практически идентичны.