Компания Cerebras бросает вызов Nvidia, запуская сервис для выполнения задач искусственного интеллекта

Компания Cerebras Systems во вторник анонсировала решение для разработки приложений на основе искусственного интеллекта. По утверждению компании, это гораздо более быстрое решение, в 20 раз быстрее, чем предложения Nvidia.

Компания Cerebras предоставит доступ к своим более мощным чипам для запуска приложений искусственного интеллекта, которые, по словам компании, также дешевле, чем графические процессоры Nvidia. Стандартные для отрасли графические процессоры Nvidia часто используются через облачных провайдеров для запуска больших языковых моделей, таких как ChatGPT. Получение доступа обычно непросто для многих небольших компаний и обходится дорого. 

Компания Cerebras утверждает, что её новые чипы способны обеспечить производительность, превосходящую возможности графических процессоров

Вывод результатов работы ИИ — это процесс использования уже обученной модели ИИ для получения результата, например, ответов от чат-ботов и решения различных задач. Сервисы вывода результатов являются основой современных приложений ИИ, поскольку они полагаются на них в повседневной работе для облегчения работы пользователей.

Компания Cerebras заявила, что сегмент вывода данных является самым быстрорастущим сегментом индустрии ИИ, поскольку на него приходится 40% всех рабочих нагрузок, связанных с ИИ, в облачных вычислениях. Генеральный директор Cerebras Эндрю Фельдман сказал, что чипы компании увеличенного размера обеспечивают более высокую производительность, чем графический процессор (GPU). По его словам, графические процессоры не могут достичь такого уровня. Фельдман дал интервью агентству Reuters.

Он добавил:

«Мы делаем это с высочайшей точностью и предлагаем по самой низкой цене». Источник: Reuters.

Генеральный директор заявил, что существующие сервисы искусственного интеллекта не удовлетворяют всех клиентов. В беседе с другой группой журналистов в Сан-Франциско он сказал, что компания «видит огромный интерес» к более быстрым и экономически эффективным решениям. 

До настоящего времени Nvidia доминировала на рынке вычислений в области искусственного интеллекта благодаря своим эталонным чипам и среде программирования CUDA (Compute Unified Device Architecture). Это позволило Nvidia удерживать разработчиков в своей экосистеме, предоставляя широкий спектр инструментов.

Чипы Cerbras имеют в 7000 раз больше памяти, чем графические процессоры Nvidia H100

Компания Cerebras заявила, что ее высокоскоростной сервис обработки данных является поворотным моментом для индустрии искусственного интеллекта. Новые чипы компании, размером с обеденную тарелку, называются Wafer Scale Engines. Они могут обрабатывать 1000 токенов в секунду, что, по словам компании, сопоставимо с внедрением широкополосного интернета.

По данным компании, новые чипы обеспечивают разную производительность для различных моделей ИИ. Для Llama 3.1 8B новые чипы могут обрабатывать до 1800 токенов в секунду, а для Llama 3.1 70B — до 450 токенов в секунду.

Компания Cerebras предлагает услуги по обработке данных по цене 10 центов за миллион токенов, что ниже, чем у сервисов на основе графических процессоров. Как правило, альтернативные подходы, согласно отраслевым представлениям, жертвуют точностью ради производительности, в то время как новые чипы Cerebras, по утверждению компании, способны поддерживать высокую точность.

Компания Cerebras заявила, что будет предлагать продукты для вывода результатов искусственного интеллекта в различных формах. Компания планирует внедрить сервис вывода результатов через свое облако и с помощью ключа для разработчиков. Фирма также будет продавать новые чипы клиентам центров обработки данных и тем, кто хочет управлять собственными системами.

Новые чипы Wafer Scale Engine имеют собственные интегрированные модули охлаждения и питания и входят в состав системы центров обработки данных Cerebras под названием CS-3. Согласно различным сообщениям, система Cerebras CS-3 является основой сервиса обработки данных компании. 

Система может похвастаться в 7000 раз большим объемом памяти, чем графические процессоры Nvidia H100. Это также решает фундаментальную проблему пропускной способности памяти, которую пытаются решить многие производители микросхем.

Компания Cerbras также работает над тем, чтобы стать публичной компанией. Для этого в этом месяце она подала в Комиссию по ценным бумагам и биржам (SEC)dentпроспект эмиссии.