Новый метод Alibaba сокращает стоимость поиска на базе ИИ почти на 90%

Alibaba Group Holding заявляет, что нашла способ сократить затраты на обучение поисковых искусственных интеллектуальных моделей почти на 90 процентов.

В в докладе опубликованном на сервере arXiv на прошлой неделе, исследователи китайской технологической компании описывают «ZeroSearch», ускоритель обучения, который позволяет большим языковым моделям улучшать свои поисковые навыки за долю стоимости.

Alibaba утверждает, что этот подход устраняет один из самых дорогих этапов обучения с подкреплением: маршрутизацию десятков тысяч запросов через платные приложения программирования интерфейсов (API).

ZeroSearch использует такие узкие места в своих интересах. Эталонная модель, уже обладающая широкой базой знаний, действует как замена поисковой системы, генерируя как полезные, так и намеренно зашумленные документы для каждого запроса. Новые модели затем обучаются на этих самодельных зашумленных документах.

Тонкая настройка начинается с четко сформулированных запросов и чистых ответов. Со временем «программа обучения» добавляет шум, опечатки и противоречия, чтобы обучаемая модель испытывала что-то более близкое к открытому интернету.

Согласно статье, шум в данных усиливает рассуждение и учит систему выживать в зашумленных средах данных. «Наше ключевое наблюдение заключается в том, что LLM приобрели обширные знания о мире в ходе масштабного предварительного обучения и способны генерировать релевантные документы на основе поискового запроса», — объясняют исследователи.

Командам не нужно платить внешним поставщикам за каждый запрос. Это изменение особенно значимо для небольших команд с ограниченными ресурсами. Например, отправка 64 000 запросов в Google через API может стоить около 586,70 долларов США. Запуск того же обучения с 14-миллиардной параметрической оценке моделей ИИ стоил примерно 70.80 долларов США, что составляет экономию в 88 процентов.

ZeroSearch от Alibaba не требует дополнительного оборудования

ZeroSearch, по мнению команды, не добавляет дополнительных требований к оборудованию. Он полагается на стандартную контролирующую тонкую настройку, поэтому потребности в облачных вычислениях остаются в пределах типичных бюджетов разработки.

Статья уже привлекла внимание в академических кругах машинного обучения. Отраслевые наблюдатели говорят, что экономия может повлиять на предстоящие бюджетные циклы в течение следующего финансового года.

Отраслевые конкуренты соревнуются в сокращении затрат на обучение больших языковых моделей, продвигая новые продукты генеративного ИИ.

Новая функция Alibaba появляется на фоне конкуренции китайских компаний с американскими, такими как Google и OpenAI, которые инвестировали значительные средства в ИИ-агентов. Сообщая о почти десятикратном сокращении затрат, Alibaba сигнализирует о том, что стоимость поиска на базе ИИ может скоро измениться.