Microsoft открывает черновик Кодекса поведения в области ИИ, делая ставку на то, что человеческий контроль продаёт модели

Microsoft AI (MAI) опубликовала первоначальный черновик Кодекса этики ИИ для гуманистов в понедельник и пригласила общественность оставить свои замечания в течение шести недель, подчеркнув приоритет человеческого надзора и обязательных ограничений при оценке систем MAI. Согласно Reuters, модель создана для того, чтобы люди могли эффективно контролировать системы MAI.

Этот документ призван направлять будущие процессы обучения и поведение моделей, но он также служит бизнес-стратегией. По мере того как компании увеличивают расходы на технологии ИИ и всё больше озабочены надёжностью, стоимостью и рисками, Microsoft делает акцент на предсказуемости и сдержанности как на факторах, за которые стоит платить.

Что черновик предписывает моделям

Самая важная цель черновика довольно проста: необходимо обеспечить, чтобы люди по-прежнему контролировали ситуацию. По словам Microsoft, модели должны работать скорее как инструменты, чем как люди, действуя под надзором человека.

Код также устанавливает для моделей Абсолютные ограничения, которые нельзя нарушать независимо от намерений пользователя или оператора. Эти ограничения включают: использование оружия и причинение массового вреда, участие в кибероперациях наступательного характера, потерю человеческого контроля, масштабные злонамеренные манипуляции и вопросы безопасности детей.

Трёхуровневая цепочка команд выстроена следующим образом: Кодекс поведения имеет наивысший приоритет, за ним следуют политики оператора, а предпочтения пользователя — в последнюю очередь. Абсолютные ограничения и запрос на человеческий контроль должны иметь приоритет и не могут игнорироваться.

Microsoft заявила, что данный черновик сегодня не используется при обучении моделей. Ожидается, что новая версия, которая будет опубликована позже в этом году, облегчит разработку MAI к 2027 году и в последующие периоды.

Почему доверие становится функцией продукта

Время публикации проекта кода совпадает с ростом глобальных расходов на ИИ. Gartner прогнозирует, что расходы на модели и платформы ИИ достигнут 64,3 млрд долларов к 2026 году, что на 63,4% больше по сравнению с 2025 годом, при этом расходы на генеративные модели ИИ вырастут на 117%. По данным Gartner, покупатели всё чаще учитывают стоимость, задержку, производительность и надёжность при выборе поставщиков.

Таким образом, управление становится коммерчески привлекательным, но может принести пользу крупным компаниям. Отчёт МВФ чётко указывает, что преимущества масштаба в вычислениях и данных могут способствовать процессам, где победитель забирает большую часть рынка. Он также подчёркивает, что сложность регулирования может идти рука об руку с увеличением концентрации, так как помогает компаниям поглощать затраты на соответствие требованиям.

По данным Gartner, расходы на управление, связанное с ИИ достигнут 492 млн долларов к 2026 году и превысят порог в 1 млрд долларов к 2030 году.

Переполненное поле правил ИИ

Рамки Microsoft вступают в ландшафт управления, который уже фрагментирован. Общий кодекс практики ИИ общего назначения был завершён Европейским союзом (ЕС) в июле 2025 года, позволяя организациям самостоятельно проверять своё соответствие обязательствам Закона об ИИ. Среди его основных заинтересованных сторон здесь Microsoft, OpenAI, Anthropic и Google. В отличие от выпуска ЕС, кодекс Microsoft представляет собой поведенческую рамку, разработанную компанией для собственных проектов MAI, а не инструмент соответствия, разработанный регулятором.

Глобальный индекс ответственного ИИ за 2026 год является примером того, насколько неравномерно внедрение. Средний глобальный балл по 135 странам и юрисдикциям составляет около 35. Фактические доказательства внедрения можно найти в 55% случаев, при этом этот показатель снижается до 45% в странах Глобального Юга.

Разделение имеет и геополитический характер. BCG заявляет, что стратегии ИИ США и Китая создают всё более несовместимые технологические стеки, заставляя компании учитывать, где может работать выбранный стек и насколько он подвержен геополитическим рискам. Cryptopolitan также сообщал, что Вашингтон и Пекин предварительно готовили свои первые переговоры только по вопросам безопасности ИИ во второй срок Трампа.

В этом контексте свод правил от Microsoft может использоваться партнёрами в качестве справочного материала или просто как ещё одно дополнение к уже существующей хаотичной глобальной системе.

Чего Microsoft ожидает от общественности

Microsoft указывает, что период обратной связи длится шесть недель. Это означает, что основная группа разработчиков проанализирует полученные комментарии после этого времени, опубликует резюме того, чему научились и какие изменения были внесены, и выпустит пересмотренную версию позже в этом году.

Компания просит помочь уточнить определение «человеческого процветания», указать, какие языковые формулировки имеют размытый смысл и не поддаются оценке, а также определить, как сохранить ограничения безопасности по мере развития возможностей. Однако Microsoft не гарантирует, что каждая рекомендация будет учтена.