Как модель ИИ как услуга (AI Model-as-a-Service) может принести пользу вашему новому приложению?

Приложения на основе ИИ теперь довольно легко разрабатывать с помощью инструментов, доступных на рынке. MaaS (Model-as-a-Service) — это способ предоставления предварительно обученных базовых моделей ИИ в качестве услуги для питания ИИ-приложений клиента.

Большинство разработчиков хотят избежать обучения, хостинга и управления ИИ-моделями для питания своих приложений, поскольку трудности с развертыванием могут привести к отказу от идеи приложения.

Также читайте: IBM открывает исходный код моделей Granite Code, революционизируя разработку программного обеспечения

MaaS упрощает использование уже обученных моделей машинного обучения для потребностей приложений без затрат, связанных с разработкой моделей. Это позволяет стартапам сосредоточиться на своих основных приложениях, а не на самостоятельной разработке ИИ-моделей.

Снижение накладных расходов выгодно пользователям

Обучение и развертывание ИИ-моделей — это совсем другая история, чем выбор между базовыми моделями, такими как Microsoft Phi-3, Gemini от Google, ChatGPT от OpenAI, Llama 3 от Meta или другими доступными моделями. Это отличается от IaaS (инфраструктура как услуга), которую предлагают Amazon и HuggingFace.

Вы можете сравнить MaaS с облачными сервисами, с той разницей, что он предоставляет вашим продуктам сложные возможности машинного обучения, а не простые облачные услуги.

Это экономит накладные расходы, человеческие ресурсы и капитал, связанные с обучением ИИ-моделей, которые недоступны для всех компаний. 

Главный менеджер программ платформы Microsoft AI Сет Джуарес говорит:

«Если вы когда-либо пытались развернуть модель, существует серия комбинаций заклинаний, версий Pytorch и процессорных/графических компонентов.» 

Джуарес, говоря с VentureBeat, объяснил, что MaaS устраняет все эти факторы. Если вы хотите использовать модель с открытым исходным кодом или модель на основе API, такую как OpenAI, теперь к ней можно получить доступ через конечную точку.

MaaS предоставляет бизнес-возможности 

MaaS предлагает крупным технологическим компаниям, таким как Microsoft, Alibaba Cloud и Amazon, возможность проникнуть в корпоративный бизнес, что делает его привлекательным для них. 

Microsoft представила свою программу MaaS в 2023 году. Изначально она предлагала только Llama 2 от Meta и Mistralv7B, но недавно добавила больше в свой арсенал. Теперь она также добавила Cor42 JAIS и TimeGen 1 от Nixtila, при этом заявляя, что stability AI и Cohere также будут доступны в ближайшее время. 

Также читайте: Рынок базовых моделей ИИ вызывает опасения в Великобритании

Alibaba Cloud, технологический фундамент Alibaba Group Holdings, также предлагает услуги MaaS через свою платформу ModelScope для нескольких моделей с открытым исходным кодом. Она была запущена год назад и имеет 300 готовых к использованию моделей искусственного интеллекта для разработчиков и исследователей.

Предложения ModelScope охватывают весь спектр моделей ИИ, от NLP (обработки естественного языка) до компьютерного зрения. 

Tencent, крупнейший в мире издатель видеоигр, также запустил платформу MaaS в прошлом году. Ее генеральный директор и старший исполнительный вице-президент Доусон Тонг, который в своей речи в прошлом году на Всемирной конференции по искусственному интеллекту в Шанхае сказал:

«Используя эти модели возможностей, партнеры могут легко создавать свои собственные эксклюзивные модели, добавляя свои уникальные данные сценариев. Благодаря частному развертыванию, контролю полномочий и шифрованию данных мы приоритизируем защиту данных для корпоративных пользователей, обеспечивая безопасное и надежное использование моделей.»

Tencent Cloud MaaS предлагает предварительно обученные ИИ-модели для широкого спектра различных бизнес-секторов, включая СМИ, финансы, здравоохранение и образование. 

Арендуйте это и позвольте компании заниматься обслуживанием

Модели, включенные в каталоги Maas, либо являются результатом партнерства с компаниями, либо для моделей была построена структура API, чтобы они функционировали единообразно. В настоящее время доступные модели соответствуют этим ограничениям, и более сложные модели недоступны, так как для их развертывания требуется более сложный способ. Джуарес сказал:

«Вот почему вы видите некоторые включенные как Models-as-a-Service, а другие вы видите, что можете поместить в свой собственный контейнер и запустить в том, что мы называем управляемым выводом (managed inference).»

Tencent сказала, что создала модель обслуживания клиентов-роботов для онлайн-туристической компании, доработав модель, используя отраслевые стандартные большие модели и интегрируя корпоративные данные. Сервис предоставляет клиентам комплексные услуги по планированию отпуска, чтобы улучшить их опыт. Мы не можем подтвердить точность заявлений Tencent и удовлетворенность клиентов, поскольку имя клиента не было раскрыто. Однако такие услуги могут помочь увеличить продажи и улучшить доходы.

Джуарес говорит, что в будущем разработчики будут выбирать ИИ-модели на основе аренды или владения, как люди делают это для домов и другой недвижимости. 

«По сути, вы владеете контейнером, моделью и Azure ML, и вы платите аренду и занимаетесь обслуживанием, так сказать.»

Он объяснил, что компания занимается обслуживанием настройки Models as a Service, и пользователи могут арендовать модель для своих потребностей, но, по его словам, некоторые пользователи могут предпочесть свою частную виртуальную сеть для использования этих моделей.

Nvidia, производитель графических процессоров, также запустила некоторые большие языковые ИИ-модели в качестве облачной службы в рамках Nvidia AI Foundation. Ее генеральный директор Дженсен Хуанг сказал, что моделирование языка ИИ как услуга является «потенциально одной из крупнейших программных возможностей в истории.»

Материал Cryptopolitan от Амира Шейха