Глава ИИ Microsoft обещает приостановить разработку, если технология создаст экзистенциальный риск

Глава потребительского искусственного интеллекта Microsoft Мустафа Сулейман заявил, что он полностью остановит разработку, если продвинутый ИИ когда-либо создаст угрозу безопасности человека.

Выступая в шоу Mishal Husain на Bloomberg, Мустафа поклялся, что фокус Microsoft направлен на создание суперинтеллекта, согласованного с интересами человека, а не на погоню за сырой мощностью любой ценой.

«Мы не будем продолжать разрабатывать систему, которая может потенциально выйти из-под контроля», — сказал Мустафа во время интервью. Он добавил, что эта позиция не должна быть противоречивой, называя её очевидной, хотя он считает, что она всё ещё редка в индустрии ИИ.

Microsoft восстанавливает свободу создания продвинутых систем ИИ

Мустафа присоединился к Microsoft в начале прошлого года после того, как компания приобрела интеллектуальную собственность и большую часть команды его стартапа Inflection AI, отказавшись от OpenAI в пользу инструментов ИИ для потребителей.

После приобретения Мустафе было поручено создавать продукты, которые могли бы напрямую конкурировать с самыми сильными моделями, уже присутствующими на рынке.

Большую часть этого времени его работа ограничивалась. Условия контракта, связанные с партнёрством Microsoft с OpenAI, запрещали компании разрабатывать общий искусственный интеллект (AGI), определяемый как системы, способные работать на уровне человека, а также суперинтеллект, который превосходил бы человеческие способности.

Мустафа сказал, что Microsoft отказалась от этих прав в обмен на доступ к новейшим моделям OpenAI. Эта договорённость также включала строительство и оснащение Microsoft центров обработки данных для OpenAI в течение нескольких лет.

Эта структура изменилась в октябре. Новая сделка изменила отношения и вернула права на разработку Microsoft.

Мустафа сказал, что теперь у OpenAI есть инфраструктурные соглашения с другими партнёрами, включая SoftBank и Oracle, для строительства большего количества центров обработки данных, чем Microsoft была готова взять на себя. «У них теперь есть сделки с SoftBank и многими другими — Oracle — на строительство большего количества центров обработки данных, чем Microsoft хотела строить для них», — сказал он. «И поэтому, в ответ, у нас теперь есть право развивать наш собственный ИИ».

Он сказал, что Microsoft оставалась разработчиком универсального ИИ на протяжении последних 18 месяцев, но теперь переходит к работе, которая может превзойти человеческие возможности во всех задачах.

«Мы всё ещё были компанией по разработке универсального искусственного интеллекта на протяжении последних 18 месяцев, но теперь мы можем работать над некоторыми техниками и методологиями, которые имеют потенциал превзойти человеческие возможности во всех задачах», — сказал Мустафа . «Итак, это сдвиг для нас».

Сулейман излагает осторожный подход, так как инструменты остаются незавершёнными

В прошлом месяце Мустафа официально объявил об усилиях по созданию суперинтеллекта в блоге, где изложил позицию Microsoft о том, что такие системы должны быть спроектированы для служения людям. Другие крупные игроки, включая OpenAI и Anthropic PBC, часто делают аналогичные заявления о безопасности и пользе для человека.

«Каждый должен решить, за что он стоит и как он действует, и я не хочу судить о том, как они действуют прямо сейчас», — сказал он. «Я не вижу никаких доказательств массового вреда в больших масштабах».

Несмотря на долгосрочный фокус на суперинтеллекте, Мустафа сказал, что текущие дебаты остаются академическими.

Потребители ожидают помощников, которые могут выполнять такие задачи, как бронирование билетов или организация планов покупок. Руководители ожидают повышения производительности. Ни одна из групп ещё не достигла этого в полной мере.

Мустафа указал на потребительского помощника Copilot от Microsoft как на доказательство. Он сказал, что его функции, похожие на агентов, всё ещё тестируются и не всегда работают так, как задумано.

«Мы всё ещё экспериментируем с этим», — сказал Мустафа. «Но когда это работает, это самое волшебное, что вы когда-либо видели».