Компания OpenAI больше не довольна чипами Nvidia для искусственного интеллекта, особенно в плане скорости ответа пользователям. В прошлом году компания начала искать другие варианты, и теперь ведет переговоры с AMD, Cerebras, а до прекращения сотрудничества даже вела переговоры с Groq.
Это напряжение стало реальным, когда OpenAI поняла, что чипы Nvidia недостаточно быстры для решения определенных задач, таких как написание кода и обработка задач взаимодействия программного обеспечения с другими программами.
По словам одного инсайдера, OpenAI планирует в будущем использовать новые чипы, способные обрабатывать как минимум 10% задач по обработке информации. Речь идёт о той части работы, где ИИ отвечает пользователям, а не о той, где он обучается.
OpenAI нужны более быстрые чипы для программирования и обработки ответов пользователей
Большая часть текущей работы OpenAI по-прежнему выполняется на чипах Nvidia, но за кулисами компания тестирует чипы, которые могут значительно ускорить все процессы.
Это включает в себя чипы с большим количеством SRAM, что помогает ускорить работу, размещая память непосредственно рядом с процессором. Nvidia и AMD по-прежнему используют память, расположенную вне чипа, что замедляет работу.
Сотрудники OpenAI указали на Codex, инструмент для написания кода, как на место, где медленная работа была наиболее серьезной проблемой. Некоторые из них даже обвинили в низкой производительности оборудование Nvidia. В ходе пресс-конференции 30 января генеральный директор OpenAI Сэм Альтман заявил: «Клиенты, использующие наши модели кодирования, будут придавать большое значение скорости при работе с кодом»
Сэм добавил, что обычным пользователям ChatGPT скорость не так важна, но для разработчиков и компаний каждая секунда на счету. Он сказал, что OpenAI недавно заключила соглашение с Cerebras, чтобы помочь ускорить процессы.
В то же время такие компании, как Anthropic и Google, добиваются лучших результатов, используя собственные чипы. TPU от Google созданы специально для задач, требующих обработки данных. Это позволило им быстрее реагировать, особенно на таких моделях, как Claude и Gemini.
Переговоры между OpenAI и Groq прервались после заключения лицензионного соглашения с Nvidia
OpenAI также вела переговоры с Groq, еще одним стартапом, разрабатывающим высокопроизводительные чипы, но эти переговоры не зашли далеко. Затем в дело вмешалась Nvidia и заключила с Groq лицензионное соглашение на 20 миллиардов долларов. Это дало Nvidia доступ к разработкам Groq и сорвало планы OpenAI по сотрудничеству с ними.
Источник, близкий к ситуации, сообщил, что чипы Groq были созданы именно для нужд OpenAI. Но как только Nvidia заключила сделку, эта возможность исчезла. Несмотря на то, что лицензия была неэксклюзивной, Groq теперь сосредоточилась на облачном программном обеспечении, и Nvidia переманила к себе часть разработчиков чипов Groq.
Компания Cerebras, напротив, отказалась от предложения Nvidia о покупке. Вместо этого она заключила собственную сделку с OpenAI. Groq также получила инвестиционные предложения, оценивавшие её примерно в 14 миллиардов долларов, но теперь эта оценка изменилась, поскольку компания связана с Nvidia.
OpenAI не полностью отказалась от Nvidia. В публичном заявлении представитель компании сказал: «Мы полагаемся на Nvidia для обеспечения работы подавляющего большинства наших вычислительных систем», и назвал их производительность на доллар лучшими на рынке. Nvidia также заявила: «Клиенты продолжают выбирать Nvidia для вычислений, потому что мы обеспечиваем лучшую производительность и общую стоимость владения в масштабе»
Сделка по инвестициям Nvidia на сумму 100 миллиардов долларов по-прежнему застряла в подвешенном состоянии
В прошлом году Nvidia заявила о планах инвестировать до 100 миллиардов долларов в OpenAI. Эти cash предназначались для того, чтобы помочь OpenAI приобрести более совершенные чипы, а взамен Nvidia получила бы долю в компании. Агентство Reuters сообщило, что сделка должна была быть завершена через несколько недель. Однако этого до сих пор не произошло.
Пока эта сделка застопорилась, OpenAI заключила соглашения с AMD и другими компаниями на тестирование чипов, которые могли бы напрямую конкурировать с чипами Nvidia. Но по мере того, как OpenAI меняла свои планы по разработке продуктов, менялся и тип необходимого ей оборудования. Это еще больше замедлило переговоры, сказал человек, знакомый с ситуацией.
В субботу генерального директора Nvidia Дженсена Хуанга спросили о возникших разногласиях. Он ответил: «Это чушь», и настаивал на том, что Nvidia по-прежнему планирует вкладывать значительные средства в OpenAI. Но за кулисами ясно, что обе стороны изучают свои варианты.
В то же время Nvidia искала новые идеи для чипов. Компания обратилась к Cerebras и Groq, чтобы узнать, готовы ли они к покупке. Cerebras отказалась и удвоила усилия в сделке с OpenAI.
В настоящее время OpenAI использует GPT4o для работы большинства своих сервисов. Но, судя по развитию событий, по крайней мере часть этой работы в ближайшем будущем будет выполняться на чипах AMD или Cerebra. Компания не пытается полностью отказаться от Nvidia, но очевидно, что она хочет больше контролировать скорость работы своих систем.
