Генеральный директор компании Anthropic утверждает, что затраты на обучение ИИ могут вырасти до 100 миллиардов долларов в течение следующих трех лет

Стоимость обучения моделей искусственного интеллекта (ИИ) стремительно растёт, и, согласно прогнозам, в ближайшие несколько лет она значительно увеличится. Дарио Амодей, генеральный директор стартапа Anthropic, специализирующегося на ИИ, осветил эти растущие расходы в недавнем выпуске подкаста «In Good Company».

Читайте также: Работники Samsung бастуют, требуя повышения заработной платы в условиях растущей конкуренции в сфере искусственного интеллекта.

Современные продвинутые модели искусственного интеллекта, такие как ChatGPT-4, требуют около 100 миллионов долларов на обучение. Но, по словам Амодеи, в ближайшие три года эта сумма может вырасти до 10–100 миллиардов долларов. 

Развитие искусственного общего интеллекта приводит к росту затрат

Резкий рост обусловлен переходом от генеративного ИИ, такого как ChatGPT, к искусственному общему интеллекту (AGI). Прогресс в направлении AGI направлен на разработку систем, способных понимать, приобретать и использовать знания подобно человеческому разуму.

«Я думаю, если мы достигнем отметки в 10 или 100 миллиардов долларов, а я думаю, это произойдет в 2025, 2026, может быть, 2027 году… тогда, я думаю, есть большая вероятность, что к тому времени мы сможем создать модели, которые будут превосходить большинство людей в большинстве аспектов» 

Амодей

По данным Tom's Hardware, существующая база для этих разработок на данный момент огромна. Например, для обучения ChatGPT потребовалось более 30 000 графических процессоров, а каждый чип Nvidia B200 AI стоит от 30 000 до 40 000 долларов. Эти инвестиции в оборудование являются одним из факторов, которые могут вызывать увеличение расходов. 

Вычислительные ресурсы приводят к росту затрат на обучение ИИ

Существует несколько причин, по которым стоимость обучения ИИ растет. Главная причина заключается в огромном объеме необходимых вычислительных ресурсов. С развитием моделей глубокого обучения требуются мощные графические процессоры и другое специально разработанное оборудование. В 2023 году в центры обработки данных было поставлено более 3,8 миллионов графических процессоров, что демонстрирует масштабы необходимой инфраструктуры. 

Читайте также: Искусственный интеллект повлияет на широкий спектргосударственных услуг

Еще одним важным фактором является энергопотребление. Энергопотребление всех проданных в прошлом году графических процессоров хватило бы для обеспечения электроэнергией 1,3 миллиона домов. Такое высокое энергопотребление не только приводит к значительным расходам для бизнеса, но и поднимает вопросы о воздействии на окружающую среду и охране природы. Согласно недавнему отчету Google, выбросы компании выросли почти на 50% за четыре года, главным образом из-за энергии, необходимой для обучения искусственного интеллекта.

Технологические гиганты вкладывают значительные средства в инфраструктуру искусственного интеллекта

Более того, ведущие технологические компании вкладывают значительные средства в развитие искусственного интеллекта. Например, Илон Маск хочет приобрести 300 000 самых современных чипов Nvidia для ИИ. Аналогично, Microsoft и OpenAI, как сообщается, работают над созданием центра обработки данных стоимостью 100 миллиардов долларов для развития ИИ.

Читайте также: Уимблдон использует ИИ для борьбы с онлайн-злоупотреблениями

Несмотря на растущие затраты, предпринимаются попытки оптимизировать стоимость обучения ИИ. Компания DeepMind от Google недавно представила метод под названием Joint Example Selection (JEST), который, как утверждается, сокращает количество итераций в 13 раз и необходимые вычислительные ресурсы в 10 раз. Это помогает сократить используемые ресурсы и затрачиваемое время.

Однако, даже с учетом этих достижений, общее направление развития — увеличение затрат из-за прогресса в области искусственного интеллекта. От генеративного ИИ до искусственного интеллекта модели должны уметь интерпретировать большие наборы данных, учиться на них, предвидеть различные ситуации и решать задачи, требующие критического мышления. 

Cryptopolitan репортаж Бренды Канана