Cloudflare лидирует в области внедрения ИИ на периферии сети

Cloudflare, известная сеть доставки контента и платформа облачной безопасности, стремится сделать искусственный интеллект (ИИ) доступным для разработчиков по всему миру. Cloudflare представила инфраструктуру на базе графических процессоров (GPU) и возможности обслуживания моделей, используя свою периферийную сеть, что открывает доступ к передовым базовым моделям для широкого круга пользователей. С помощью простого вызова REST API любой разработчик может получить доступ к платформе ИИ Cloudflare, что является значительным шагом на пути к демократизации ИИ.

Эволюция периферийной сети Cloudflare

В 2017 году Cloudflare представила Workers — платформу бессерверных вычислений на периферии сети. Эта инновационная платформа позволяет разработчикам создавать JavaScript-сервисы Service Workers, которые работают непосредственно в точках доступа Cloudflare по всему миру. С помощью Workers разработчики могут изменять HTTP-запросы и ответы сайта, выполнять параллельные запросы и отвечать непосредственно с периферии сети. Такой подход упрощает веб-разработку и повышает производительность, соответствуя стандарту Service Workers от W3C.

Интеграция ИИ с рабочими процессами Cloudflare

Развитие генеративного искусственного интеллекта побудило Cloudflare дополнить свою платформу Worker возможностями ИИ. Интеграция ИИ от Cloudflare состоит из трех ключевых элементов:

1. Искусственный интеллект для рабочих процессов: Этот компонент работает на графических процессорах NVIDIA в глобальной сети Cloudflare, обеспечивая бессерверные модели ИИ. Благодаря модели оплаты по мере использования пользователи могут сосредоточиться на своих приложениях, а не на управлении инфраструктурой, что делает ИИ более доступным и экономически эффективным.

2. Vectorize: Векторная база данных Cloudflare, Vectorize, обеспечивает быстрое и экономичное индексирование и хранение векторных данных. Она поддерживает сценарии использования, требующие доступа к операционным моделям и пользовательским данным, что повышает универсальность приложений искусственного интеллекта.

3. Шлюз ИИ: Шлюз ИИ позволяет организациям кэшировать, ограничивать скорость и отслеживать развертывание ИИ в различных средах хостинга. Он повышает наблюдаемость, ограничивает скорость и кэширует данные, снижая затраты и оптимизируя производительность приложений.

Стратегическое партнерство и каталог моделей

Cloudflare заключила стратегические партнерства с лидерами отрасли, включая NVIDIA, Microsoft, Hugging Face, Databricks и Meta, чтобы внедрить инфраструктуру GPU и базовые модели в свою периферийную сеть. Платформа также предоставляет возможности для встраивания моделей, преобразующих текст в векторы. Эти векторы хранятся, индексируются и запрашиваются с помощью Vectorize, добавляя контекст к большим языковым моделям (LLM) и уменьшая количество ложных ответов. AI Gateway повышает производительность, обеспечивая наблюдаемость, ограничение скорости запросов и кэширование для часто запрашиваемых моделей ИИ.

Каталог моделей Cloudflare для Workers AI включает в себя самые новые и передовые базовые модели. От Meta Llama 2 до Stable Diffusion XL и Mistral 7B, разработчики могут получить доступ к полному набору инструментов для создания современных приложений на основе генеративного ИИ.

Оптимизация моделей ИИ с помощью среды выполнения ONNX

В фоновом режиме Cloudflare использует ONNX Runtime, открытую среду выполнения для обмена данными между нейронными сетями, разработанную Microsoft, для оптимизации работы моделей в средах с ограниченными ресурсами. Эта технология, также используемая Microsoft для запуска базовых моделей в Windows, обеспечивает эффективное развертывание ИИ в различных средах.

Разработчики имеют множество вариантов интеграции ИИ в свои приложения через Cloudflare. Хотя JavaScript можно использовать для написания кода для вывода результатов ИИ и его развертывания в сети Cloudflare, разработчики также могут вызывать модели ИИ через простой REST API, используя выбранный ими язык программирования. Такая гибкость позволяет легко внедрять генеративный ИИ в веб-, настольные и мобильные приложения, независимо от среды.

Расширение использования ИИ работниками по всему миру

В сентябре 2023 года Cloudflare запустила Workers AI с возможностями вывода данных в семи городах. Однако компания поставила перед собой амбициозную цель — к концу года обеспечить поддержку вывода данных Workers AI в 100 городах, а к концу 2024 года ожидается почти повсеместное покрытие. Такое быстрое расширение гарантирует, что разработчики по всему миру смогут использовать возможности ИИ на периферии сети.

Cloudflare — один из первых поставщиков сетей доставки контента (CDN) и периферийных сетей, который расширил возможности своей периферийной сети за счет искусственного интеллекта, работающего на базе графических процессоров Workers AI, Vectorize и AI Gateway. Сотрудничая с такими технологическими гигантами, как Meta и Microsoft, Cloudflare предлагает разнообразный каталог моделей и использует ONNX Runtime для оптимизации. Этот стратегический шаг не только позиционирует Cloudflare как лидера отрасли, но и открывает путь к демократизации ИИ на периферии сети.

Стремление Cloudflare сделать ИИ доступным для разработчиков представляет собой важную веху в развитии этой области. Благодаря бесшовной интеграции возможностей ИИ в свою периферийную сеть, Cloudflare позволяет разработчикам использовать генеративный ИИ в своих приложениях, стимулируя инновации и расширяя охват ИИ. Сосредоточившись на глобальном расширении, Cloudflare готова возглавить процесс демократизации ИИ на благо всех разработчиков и пользователей.