Президент Microsoft Брэд Смит заявил, что ИИ регулируется слабее, чем молоко

Брэд Смит, президент Microsoft, заявил BBC, что в настоящее время ИИ работает при меньшем количестве правил безопасности, чем такие товары, как молоко или стиральные машины, и это должно подтолкнуть правительства, особенно Великобританию, к разработке обязательных нормативов, включая механизмы экстренного отключения и обязательное сообщение о случаях некорректного поведения ИИ-агентов.

Смит сделал это сравнение в интервью BBC, опубликованном на выходных, где он описал ИИ как «инструмент и оружие», требующее срочного контроля. «Сейчас ваша стиральная машина подчиняется большему количеству правил безопасности, чем ИИ», — сказал он, по данным BBC. «Каждая упаковка молока, которую вы видите в продуктовом магазине, также подлежит правилам безопасности и проверкам».

Смит призывает создать правовую структуру, которая сделает компании, разрабатывающие ИИ, более ответственными за сбои в работе их продуктов или конечных решений. Согласно его предложению, фирмы будут обязаны сообщать о сбоях моделей, предупреждать всех, чьи системы были взломаны недобросовестным ИИ-агентом, а также предоставлять мощные модели для независимой экспертизы перед их публичным запуском.

Расхождение с Трампом по вопросу саморегулирования

Стремление Смита ввести юридически обязательные меры защиты от ИИ ставит его в оппозицию к Белому дому. Трамп утверждал, что США должны позволить своей отрасли ИИ самостоятельно регулировать себя, предупреждая, что ужесточение правил может оставить страну позади Китая. Президент Трамп повторил эту позицию на саммите с технологическими руководителями в прошлом месяце.

На саммите руководители OpenAI, Anthropic, Nvidia, Meta, Google и X Илона Маска подписали одностраничное соглашение, которое Cryptopolitan охарактеризовал как «морально обязывающее». Подписавшиеся обязались использовать независимых аудиторов и внедрить меры предосторожности, чтобы предотвратить выход моделей ИИ из-под контроля. Однако Microsoft, согласно The Telegraph, не подписала это соглашение.

Смит приветствовал соглашение и заявил, что Microsoft готова его подписать. Однако в интервью BBC он предупредил, что добровольных обязательств недостаточно. Он назвал соглашение «хорошим шагом» и «необходимым шагом», но добавил, что теперь этого уже недостаточно.

Он предупредил, что добровольные обязательства могут мало способствовать снижению самых серьёзных рисков, поскольку компании, уже уделяющие серьёзное внимание безопасности, с большей вероятностью будут их соблюдать, тогда как те, кто представляет наибольшую опасность, могут выбрать игнорирование этих обязательств.

Смит из Microsoft хочет, чтобы Великобритания взяла на себя лидерство

Президент Microsoft Смит также назвал Великобританию страной, лучше всего подходящей для установления глобальных стандартов, а не США или даже Брюссель. Он указал на свой Институт безопасности ИИ, запущенный в 2024 году при бывшем премьер-министре Риши Сунаке как Институт безопасности ИИ. Эта организация добровольно заключила соглашения, позволяющие ей тестировать передовые модели до их выпуска.

По словам Смита, Великобритания находится в более выгодном положении, чем ЕС, при взаимодействии с Вашингтоном, поскольку американские политики смотрят на Лондон иначе, чем на Брюссель. Он заявил это BBC, добавив, что основанный на оценке рисков закон ЕС об искусственном интеллекте вызвал осторожность у американских законодателей.

Правительство Великобритании также готовится ужесточить контроль за ИИ: ожидается, что министр по вопросам ИИ Канишка Нараян в своём предстоящем выступлении обратится к разработчикам передовых моделей с призывом предпринять больше усилий для снижения рисков в области безопасности, по мере того как продолжается формирование законодательства, усиливающего государственный надзор.

Отдельно The Telegraph сообщило, что Белый дом восстановил доступ британского института к новейшим моделям ИИ для тестирования. Ранее этот доступ был отозван после того, как компаниям, включая Anthropic и OpenAI, было предложено прекратить распространение своих моделей.

Аварийные выключатели и «агенты-отщепенцы»

Идея «аварийных тормозов» Смита перекликается с позицией генерального директора Microsoft Сатьи Наделлы, который призвал внедрить в модели ИИ механизм, позволяющий человеку приостановить или полностью отключить систему в процессе работы, если она выйдет из-под контроля.

«Мы должны создавать изолированные системы, поведение которых мы можем наблюдать, пределы которых мы можем проверять и действия которых мы всегда можем контролировать», — ранее написал Наделла, сообщает Guardian.

Эти предупреждения последовали после реальных инцидентов: недавно компания Anthropic обнаружила, что одна из версий её модели Claude во время тестирования связалась с полицией и ложно заявила о возможности помочь в расследовании убийства.

На встрече Трампа руководители компаний, работающих в сфере ИИ, включая Дарио Амодеи, Сандара Пичая, Грега Брокмана и Дженсена Хуанга, поддержали идею саморегулирования отрасли. Критики выступили против такого подхода, утверждая, что он позволит компаниям самостоятельно решать, какие меры следует считать достаточными для обеспечения безопасности.