Раскрытие потенциала LLM, прорыв для менеджеров

В сфере данных и искусственного интеллекта (AI) шумиха часто сосредоточена на «вау-факторе», но для многих бизнес-менеджеров фокус направлен на достижение практических, реальных результатов. На фоне наплыва новостей о передовых технологиях AI, таких как ChatGPT и Большие языковые модели (LLM), менеджеры в нетехнологичных или традиционных отраслях могут задаться вопросом, актуальны ли эти передовые технологии для их повседневной деятельности.

Большие языковые модели, или LLM, предлагают больше, чем просто возможности генерации текста. Эти модели, такие как GPT-4, невероятно универсальны и могут быть использованы для выполнения широкого спектра задач. Ключ к раскрытию этого потенциала заключается в создании точных инструкций, часто называемых «промптами», которые направляют LLM на выполнение конкретных задач. Этот развивающийся навык создания эффективных промптов обычно известен как промпт-инжиниринг.

Рассмотрим сценарии, где LLM может определять языки в отзывах клиентов, переводить корпоративные документы или оценивать тональность жалоб клиентов. В эпоху до LLM достижение этих задач потребовало бы разработки или приобретения отдельных систем для каждой функции, что влекло за собой дополнительные расходы на сбор данных и оборудование. Однако благодаря экономичной модели оплаты за использование LLM, эти варианты использования становятся более рентабельными, чем разработка множества специализированных моделей. Следовательно, LLM эволюционируют в универсальную технологию для различных приложений, по сути становясь доминирующим дизайном.

Бесшовная интеграция в рабочие процессы

Хотя многие изучали ChatGPT через его веб-интерфейс, большие языковые модели (LLM) и лежащие в их основе технологии доступны через программные интерфейсы (API), что делает интеграцию в приложения и бизнес-процессыremarkably доступной и простой. Примеры, такие как использование Duolingo GPT-4 для улучшения обратной связи с пользователями и применение LLM Morgan Stanley для финансовых рекомендаций, демонстрируют разнообразие сфер применения LLM. Проекты с открытым исходным кодом, такие как langchain, позволяют создавать программы путем составления цепочек инструкций на основе LLM, прокладывая путь к еще более инновационным решениям в будущем.

Дисруптивный аспект LLM заключается в том, как они позволяют программировать с помощью ИИ. Разработчики могут описывать задачи простыми языковыми инструкциями и комбинировать результаты как конструктор Lego, предлагая альтернативу традиционной дилемме «купить или сделать», где можно «сделать, купить или адаптировать решение на основе LLM».

Запрос данных компании с помощью LLM

Еще одним перспективным применением LLM является запрос данных компании. LLM могут предоставлять ответы на вопросы, связанные с данными, если эти данные включены в качестве части запроса (prompt). Этот подход был протестирован Boston Dynamics, которая использовала ChatGPT для запроса уровня заряда батареи робота или его внутреннего состояния. Это открывает возможности для корпоративных баз знаний. Теперь можно ввести пакет бизнес-документов или записей данных в запрос и задать о них вопросы, что в долгосрочной перспективе может заменить традиционные SQL-запросы.

Ведутся работы по более эффективному подключению баз документов к LLM, например, поиску наиболее релевантных документов и включению только их в контекст. Несмотря на существующие проблемы, LLM становятся новым интерфейсом для взаимодействия с данными.

Взаимодействие и выполнение действий с помощью LLM

LLM также прокладывают путь в своей способности «подключаться» к другим системам и выполнять действия при необходимости. Стратегия промптов ReAct, представленная исследователями из Google и Принстонского университета, позволяет LLM генерировать ответы, включающие вызовы к сервисам. Например, LLM может подключиться к сервису калькулятора, чтобы предоставить ответ на запрос вычислений. Премиум-версии ChatGPT предлагают плагины, такие как Expedia и Kayak, обеспечивая доступ к информации о бронировании и обработку сложных математических запросов.

В целом, эта способность LLM взаимодействовать с другими системами имеет потенциал превратить их в платформы или маркетплейсы для различных услуг, подобно тому, как телефоны выполняют больше функций, чем просто звонки.

LLM: Доступные, адаптируемые и общедоступные

Подводя итог, бизнес-менеджерам не следует отвергать LLM из-за воспринимаемой сложности. LLM легко доступны как гибкие и экономичные инструменты по модели оплаты за слово, часто предлагая ставки дешевле, чем у альтернатив. Они быстро эволюционируют во всесторонние, универсальные технологии, заменяя множество более мелких моделей и предлагая новый тип программирования через текстовые инструкции. LLM эффективно обрабатывают запросы к данным и имеют потенциал служить платформами для различных услуг.