DeepSeek представляет новый метод ИИ-рассуждений на фоне ожиданий модели следующего поколения

Китайский ИИ-стартап DeepSeek представил новый метод рассуждений, пока рынок продолжает ожидать релиза его модели следующего поколения. Согласно отчетам, компания только что представила новый подход, который поможет улучшить способности к рассуждению больших языковых моделей (LLM), поскольку общественность ждет выхода новой модели.

Согласно отчетам, недавно опубликованная статья раскрыла, что этот успех был достигнут благодаря сотрудничеству между исследователями из Университета Цинхуа и ИИ-стартапом. Согласно статье, DeepSeek удалось разработать технику, сочетающую методы, известные как генеративное моделирование вознаграждения (GRM) и самопринципиальная настройка. Двойной подход позволит большим языковым моделям (LLM) предоставлять лучшие и более быстрые результаты на общие запросы.

DeepSeek раскрывает новый метод ИИ-рассуждений

Согласно исследователям, полученные модели DeepSeek-GRM смогли превзойти существующие методы, показав конкурентоспособные результаты по сравнению с сильными публичными моделями вознаграждения. Моделирование вознаграждения — это процесс, который помогает LLM определять человеческие предпочтения. Исследователи упомянули, что ИИ-стартап намерен сделать модели GRM открытыми, но компания пока не предоставила график разработки.

Опубликованная академическая исследовательская статья выходит на фоне спекуляций о потенциальном следующем шаге стартапа после того, как он привлек глобальное внимание своими моделями DeepSeek V3 и R1. В то время модель R1, выпущенная ранее в этом году, получила широкое признание после того, как было обнаружено, что она работает лучше некоторых более старых моделей, включая первую модель ChatGPT от OpenAI.

Выпуск модели R1 также застал Кремниевую долину врасплох, учитывая тот факт, что модель была открытой и была завершена с долей затрат, используемых в других ИИ-моделях. Хотя внимание, похоже, замедляется, среди конкурирующих фирм в отрасли ИИ наблюдается значительный прогресс, что показывает, что соперничество в этом секторе — одно из самых ярких в истории.

Однако в прошлом месяце агентство Reuters сообщило, что DeepSeek-2, преемник всемирно известной модели R1, возможно, находится в разработке. Согласно отчету, компания может выпустить ее ближе к концу этого месяца, стремясь воспользоваться растущим профилем в отрасли ИИ. С другой стороны, DeepSeek сохраняет молчание о модели R2, не комментируя официальные публичные каналы, а служба поддержки клиентов опровергла слухи перед бизнес-клиентами, согласно отчетам.

Разработка модели V3 продолжается

DeepSeek, базирующаяся в Ханчжоу, была основана в 2023 году предпринимателем Ляном Вэнфэном и последние несколько месяцев находилась в центре мирового внимания по правильным причинам. Однако компания отказалась от публичных коммуникаций, решив сосредоточить все свое время и энергию на исследованиях и разработках. Хотя еще предстоит увидеть, что компания приготовила для отрасли ИИ, она определенно много работала, благодаря слухам.

В прошлом месяце компания объявила о разработке, над которой она работала, представив миру свою обновленную модель V3 под названием DeepSeek-V3-0324. Согласно компании, обновленная модель предлагала «улучшенные способности к рассуждению, оптимизированную разработку фронтенда и повышенный уровень владения китайским языком». В феврале компания открыла доступ к пяти своим репозиториям кода, позволив разработчикам просматривать и вносить вклад в разработку программного обеспечения. Стартап упомянул, что будет добиваться «искреннего прогресса при полной прозрачности».

В том же месяце Лян опубликовал техническое исследование о нативном разреженном внимании (sparse attention) — методе, используемом для повышения эффективности LLM при обработке больших объемов данных. 40-летний Лян также является основателем материнской компании DeepSeek, хедж-фонда High-Flyer Quant, который обеспечил финансовую мощь для финансирования технических достижений ИИ-стартапа. В конце февраля предприниматель принял участие в симпозиуме, собравшем технологических предпринимателей, которых принимал президент Китая Си Цзиньпин. Президент назвал стартап признаком устойчивости страны перед лицом попыток США сдержать развитие ИИ в Китае.