Amazon обеспечивает работу модели Claude от Anthropic с новой инфраструктурой ИИ Rainier

Amazon запустила свой проект Rainier стоимостью $11 млрд, который к концу года будет использовать более одного миллиона чипов Trainium 2 для обеспечения работы модели Anthropic Claude. Комплекс площадью 1200 акров в сельской местности Индианы, недалеко от озера Мичиган, предназначен исключительно для обучения ИИ-моделей Anthropic на чипах Amazon. 

Технологическая компания заявила, что кластер дата-центров Rainier в настоящее время работает примерно на 500 000 чипов Tranium2, и Anthropic обязалась удвоить свои инвестиции в ИИ-инфраструктуру Amazon. Тем временем Amazon выделила около $8 млрд, а Google инвестировал около $3 млрд в Anthropic. Amazon Web Services (AWS) называет проект Rainier самым мощным в мире кластером вычислений для обучения ИИ. 

Cryptopolitan недавно сообщал что Anthropic не просто работает; она действует расчетливо, методично и масштабирует свою инфраструктуру на максимум. Ее модели Claude распределены между GPU Nvidia, TPU Google и чипами Trainium Amazon, и каждый чип выполняет определенную задачу. Исследования проводятся в одном месте, обучение — в другом, а инференс — в третьем.  

Гарман говорит, что будущее наступает уже сейчас

Генеральный директор AWS Мэтт Гарман заявил, что вычислительный кластер Rainier — это не концепция будущего, а проект, который уже запущен. Однако, как сообщается, скептики задаются вопросом, достаточно ли финансирования, энергии и общественной поддержки для реализации этих амбициозных ИИ-дата-центров.   

Руководитель заявил, что Amazon выполняет обязательства благодаря десятилетиям опыта в обработке крупномасштабных логистических данных. Компания также установила глубокие и тесные связи с местными и государственными чиновниками через свои огромные центры выполнения заказов, проект HQ2, дата-центры AWS и логистические хабы.  

«Это не какой-то будущий проект, о котором мы говорили и который, возможно, оживет… Это работает и обучает их модели уже сегодня».

–Мэтт Гарман, Генеральный директор Amazon Web Services 

Майк Кригер, главный продукт-офицер Anthropic, сказал, что сделки выглядят хорошо только на бумаге, но материализуются только если они будут собраны, загружены и доступны для клиентов. Однако он признал, что Amazon невероятно хороша в этом. Джош Саллабедра, руководящий сайтом Rainier в Индиане и построивший дата-центры Amazon за более чем 14 лет, сказал, что никогда не видел, чтобы технологическая фирма двигалась так быстро. Гарман описал это как переход от кукурузных полей к дата-центрам почти за одну ночь. 

Кригер заявляет о высоком спросе на модели его компании

Майк Кригер из Anthropic подчеркнул высокий спрос на ИИ-модели своей компании, добавив, что стратегия с несколькими чипами позволила компании обслуживать столько клиентов, сколько она обслуживала в этом году. Однако он отметил, что компании понадобится вся доступная вычислительная мощность. 

Тем временем Гарман заявил, что он хорошо осведомлен о многопроцессорных и мультиоблачных усилиях, но уточнил, что у Amazon нет планов предпринимать радикальные шаги, такие как предложение о покупке Anthropic. Он добавил, что обе компании довольны партнерством в текущем виде.

Anthropic также заявила, что не полагается исключительно на Amazon, продвигаясь по своему будущему пути. Компания . Компания считает, что FRUT будет служить «единым билетом» для выражения платформенных и аппаратных аспектов искусственного интеллекта. Это просто означает, что инвесторы получают доступ к инфраструктуре ИИ с одним продуктом, вместо того чтобы смешивать разных производителей чипов и названия платформ. на прошлой неделе объявила о партнерстве с Alphabet для получения доступа к $1 млн пользовательских TPU Google (Tensor Processing Units). ИИ-компания раскрыла, что сделка стоит десятки миллиардов долларов, хотя конкретные детали не были озвучены. 

Anthropic подчеркнула, что движется с безумной скоростью и сжигает огромные суммы денег, чтобы угнаться за другими гигантами ИИ. Ее чат-бот Claude уже обслуживает более 300 000 предприятий, что в 300 раз больше, чем два года назад. Крупные корпоративные клиенты, каждый из которых генерирует более $100 000 годовой выручки, выросли почти в 7 раз за один год. Тем временем код Claude Code сгенерировал $500 млн годовой выручки в течение первых восьми недель. 

Прасад Кальянараман, вице-президент по инфраструктурным услугам в AWS, считает критически важным создание правильного набора возможностей, которые хотят поставщики моделей. Он добавил, что контроль над стеком от нижних уровней инфраструктуры также имеет решающее значение.