Глава Microsoft, отвечающий за искусственный интеллект, обещает остановить разработку, если технология будет представлять угрозу существованию компании.

Руководитель направления искусственного интеллекта для потребителей в Microsoft Мустафа Сулейман заявил, что полностью прекратит разработку, если передовые технологии ИИ когда-либо будут угрожать безопасности человека.

В эфире программы The Mishal Husain Show на Bloomberg Мустафа заявил, что Microsoft сосредоточена на создании сверхинтеллекта, соответствующего интересам человека, а не на погоне за грубой силой любой ценой.

«Мы не будем продолжать разрабатывать систему, которая потенциально может выйти из-под контроля», — заявил Мустафа во время интервью. Он добавил, что эта позиция не должна вызывать споров, назвав её очевидной, хотя, по его мнению, она всё ещё редко встречается в индустрии искусственного интеллекта.

Microsoft вновь обрела свободу для создания передовых систем искусственного интеллекта.

Мустафа присоединился к Microsoft в начале прошлого года после того, как компания приобрела интеллектуальную собственность и большую часть команды, стоящей за его стартапом Inflection AI, отказавшись от OpenAI в пользу ориентированных на потребителя инструментов искусственного интеллекта.

После приобретения перед Мустафой была поставлена ​​задача создать продукцию, способную напрямую конкурировать с самымиtronмоделями, уже представленными на рынке.

На протяжении большей части этого времени его работа была ограничена. Условияtrac, связанные с партнерством Microsoft с OpenAI, препятствовали компании в разработке искусственного общего интеллекта, defiкак системы, способные работать на уровне человека, а также сверхинтеллекта, превосходящего человеческие способности.

Мустафа заявил, что Microsoft отказалась от этих прав в обмен на доступ к новейшим моделям OpenAI. Эта договоренность также включала в себя строительство и оснащение Microsoft центров обработки данных для OpenAI в течение нескольких лет.

В октябре эта структура изменилась. Новое соглашение перестроило отношения и вернуло Microsoft права на разработку.

Мустафа заявил, что у OpenAI теперь есть соглашения с другими партнерами, включая SoftBank и Oracle, о строительстве большего количества центров обработки данных, чем Microsoft была готова выделить. «Теперь у них есть сделки с SoftBank и многими другими — Oracle — на строительство большего количества центров обработки данных, чем Microsoft хотела для них построить», — сказал он. «И, в свою очередь, мы получаем право на разработку собственного ИИ».

Он сказал, что Microsoft на протяжении последних 18 месяцев оставалась разработчиком универсальных решений в области искусственного интеллекта, но теперь переходит к работе, которая может превзойти человеческие возможности в решении различных задач.

«Последние 18 месяцев мы по-прежнему занимались разработкой ИИ общего назначения, но теперь мы можем работать над некоторыми методами и подходами, которые потенциально могут превзойти человеческие возможности во всех задачах», — сказал. «Таким образом, для нас это сдвиг».

Сулейман излагает осторожный подход, поскольку инструменты еще не доработаны.

В прошлом месяце Мустафа официально объявил о проекте создания сверхинтеллекта в сообщении в блоге, где изложил позицию Microsoft о том, что такие системы должны быть разработаны для служения людям. Другие крупные игроки, включая OpenAI и Anthropic PBC, часто делают аналогичные заявления о безопасности и пользе для человека.

«Каждый должен решить, за что он выступает и как действует, и я не хочу судить о том, как они действуют сейчас», — сказал он. «Я не вижу никаких признаков масштабного массового причинения вреда».

Несмотря на то, что в последнее время основное внимание уделяется сверхинтеллекту, Мустафа заявил, что нынешняя дискуссия носит чисто теоретический характер.

Потребители ожидают от своих помощников возможности выполнять такие задачи, как бронирование билетов или планирование покупок. Руководители же ожидают повышения производительности труда. Ни одна из групп пока не достигла полного удовлетворения этих ожиданий.

Мустафа в качестве доказательства указал на потребительский помощник Microsoft Copilot. Он сказал, что его функции, похожие на работу агента, все еще тестируются и не всегда работают должным образом.

«Мы всё ещё экспериментируем с этим, — сказал Мустафа. — Но когда это срабатывает, это самое волшебное, что вы когда-либо видели».