Amazon соревнуется с Microsoft и Google в области генеративного ИИ с помощью пользовательских чипов AWS
- Amazon спешит догнать конкурентов в сфере генеративного ИИ, используя собственные чипы: Inferentia и Trainium.
- AWS использует своё лидерство на рынке облачных услуг и разнообразие инструментов для расширения возможностей генеративного ИИ.
- Собственные кремниевые решения могут дать Amazon преимущество, однако GPUs Nvidia по-прежнему доминируют в обучении моделей.
В неприметном офисном здании в Остине, штат Техас, небольшая команда сотрудников Amazon усердно работает над проектированием двух различных микропроцессоров, разработанных специально для обучения и ускорения генеративного ИИ. Эти пользовательские чипы AWS, названные Inferentia и Trainium, представляют собой жизнеспособную альтернативу для клиентов AWS, стремящихся обучать свои огромные языковые модели, не полагаясь на все более дефицитные и дорогие графические процессоры Nvidia.
Генеральный директор Amazon Web Services (AWS) Адам Селипски отметил в интервью в июне, что спрос на чипы для питания генеративного ИИ стремительно растет по всему миру. Проактивный подход Amazon направлен на удовлетворение этого спроса; компания заявляет, что она хорошо подготовлена для обеспечения необходимой мощности для совокупных потребностей своих клиентов.
Догоняя в бурно развивающейся отрасли
Однако другие игроки опередили Amazon, значительно инвестировав в использование бума генеративного ИИ. Когда OpenAI представила свой ChatGPT в ноябре, Microsoft привлекла значительное внимание, разместив этот вирусный чат-бот и пообещав вложить около 13 миллиардов долларов в OpenAI. Microsoft быстро интегрировала модели генеративного ИИ в свои продукты, включив их в Bing к февралю. В том же месяце Google запустила Bard, свою модель большого языка, и инвестировала значительные 300 миллионов долларов в конкурента OpenAI, компанию Anthropic.
Amazon вошла в игру немного позже. Только в апреле Amazon представила свою линейку моделей большого языка под брендом Titan, а также сервис Bedrock, предназначенный для помощи разработчикам в улучшении программного обеспечения с помощью возможностей генеративного ИИ. Этот поздний вход заставил некоторых экспертов предположить, что Amazon, обычно известная как пионер рынков, теперь догоняет в области генеративного ИИ.
Техническое отличие с помощью пользовательского кремния
Чираг Декате, вице-президент и аналитик Gartner, считает, что пользовательские чипы Amazon в конечном итоге могут обеспечить конкурентное преимущество в секторе генеративного ИИ. Уникальные технические возможности, предлагаемые этими пользовательскими чипами, Inferentia и Trainium, могут выделить Amazon. Примечательно, что у Microsoft нет аналогов Trainium и Inferentia.
Amazon начала свой путь с пользовательского кремния в 2013 году, начав со специализированного оборудования под названием Nitro. Со временем Nitro стал чипом AWS с самым высоким объемом выпуска, более 20 миллионов единиц которого используются, украшая каждый сервер AWS.
В 2015 году Amazon приобрела израильский стартап по производству чипов Annapurna Labs. В 2018 году компания представила свой серверный чип на архитектуре Arm, Graviton, чтобы конкурировать с доминирующими процессорами x86 от таких отраслевых гигантов, как AMD и Intel. В том же году Amazon начала работу над чипами, ориентированными на ИИ. Это произошло через пару лет после того, как Google представила свой первый тензорный процессор (TPU). Тем временем Microsoft хранила молчание о своем чипе Athena AI, разработанном в сотрудничестве с AMD.
Пользовательские чипы и их роль
Закулисный тур по лаборатории чипов Amazon в Остине показывает разработку и тестирование Trainium и Inferentia. Мэтт Вуд, вице-президент по продукту, объясняет их роль. Машинное обучение состоит из двух этапов: обучения моделей и выполнения выводов (инференса) на обученных моделях. Trainium, представленный в 2021 году, обеспечивает существенное улучшение соотношения цены и производительности на 50% по сравнению с другими методами обучения моделей машинного обучения в AWS. Inferentia, выпущенный в 2019 году и находящийся сейчас во втором поколении, отлично справляется с обработкой высокоскоростных выводов машинного обучения с низкой задержкой.
Несмотря на усилия Amazon, графические процессоры Nvidia в настоящее время доминируют в обучении моделей. В июле AWS представила оборудование для ускорения ИИ на базе Nvidia H100, подчеркнув сильную позицию Nvidia в ландшафте ИИ.
Использование доминирования в облаке для получения преимущества
Доминирование Amazon в облачной сфере выделяет ее. Имея огромную установленную базу в облаке, сила Amazon заключается в возможности существующих клиентов расширяться в создании ценности с помощью генеративного ИИ. Миллионы клиентов AWS, уже знакомых с платформой, могут найти привлекательным использование услуг Amazon для задач генеративного ИИ, опираясь на свои существующие приложения и хранилища данных.
AWS занимает львиную долю рынка облачных вычислений, составляя 40% к 2022 году. Несмотря на недавнее снижение операционной прибыли, AWS все еще вносит значительный вклад в 70% общей операционной прибыли Amazon. Ее широкие операционные маржи превосходят показатели Google Cloud.
Расширяющийся набор инструментов AWS для генеративного ИИ
AWS фокусируется на разнообразном наборе инструментов для генеративного ИИ, а не на прямом противостоянии ChatGPT. AWS HealthScribe, представленный в июле, использует генеративный ИИ для помощи врачам в составлении резюме посещений пациентов. SageMaker, центр машинного обучения, предлагает алгоритмы и модели. CodeWhisperer, помощник для кодинга, в среднем повысил продуктивность разработчиков на 57%. В прошлом году Microsoft сообщила о подобных улучшениях продуктивности от GitHub Copilot.
В июне AWS объявила о создании центра инноваций в области генеративного ИИ с бюджетом 100 миллионов долларов. Компания стремится направлять клиентов в понимании потенциала генеративного ИИ в контексте их бизнеса, предлагая персонализированную помощь от экспертов.
Преодоление проблем безопасности
Распространение ИИ также вызывает опасения по поводу безопасности, особенно в отношении проприетарной информации в данных обучения, используемых для публичных языковых моделей. AWS решает эти проблемы, гарантируя, что модели генеративного ИИ, доступные через ее сервис Bedrock, работают в изолированных средах виртуальных частных облаков. Эта настройка гарантирует шифрование и последовательный контроль доступа AWS, снимая опасения по поводу утечки данных.
Постоянное продвижение Amazon в области генеративного ИИ
Amazon продолжает продвигаться вперед в сфере генеративного ИИ. Хотя в настоящее время более 100 000 клиентов используют машинное обучение в AWS, это составляет лишь малую часть огромной клиентской базы AWS. Тем не менее, аналитики считают, что известность и репутация Amazon как надежного поставщика могут склонить предприятия к более широкому изучению экосистемы генеративного ИИ Amazon.
Чираг Декате подчеркивает, что предприятия вряд ли переключат свои стратегии инфраструктуры только на основе достижений конкурентов в области генеративного ИИ. Для существующих клиентов Amazon привлекательность обширной экосистемы Amazon может сыграть ключевую роль в их решениях.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Джон Палмер
Джон Мурангири пришел в Cryptopolitan, обладая навыками анализа рынка. Джон (также известный как JP) окончил Найробийский университет по специальности «Массовая коммуникация и медиаисследования». Ранее он публиковал аналитические материалы о криптовалютном рынке на InsideBitcoins.com и Metacoingraph.
