Meta усиливает предупреждение Muse, поскольку агенты ИИ опережают меры безопасности

По данным издания The Information , компания Meta внесла улучшения в систему оповещения о безопасности, связанную с Muse, персональным ИИ-помощником, после обнаружения сторонним экспертом по безопасности уязвимости, которая могла поставить под угрозу виртуальную машину пользователя, а также его электронную почту и файлы.

Первоначально уязвимости был присвоен класс SEV-2, что является третьим по величине уровнем серьезности по классификации Meta. Поскольку последнийdent лишь один из череды катастроф в сфере безопасности, возникает вопрос, могут ли меры безопасности различных компаний соответствовать требованиям безопасности систем, которым разрешено работать от имени пользователей.

Почему агент выходит за рамки возможностей чат-бота

Muse — это больше, чем просто чат-бот, отвечающий на запросы. По данным Meta, Muse работает на выделенной и постоянно доступной виртуальной системе со своим собственным браузером. Эта система получает доступ к электронной почте, календарю и аккаунтам Instagram пользователя, помогает совершать покупки, используя одноразовый номер карты при оформлении заказа, и создает инструменты, если это необходимо.

dentданные пользователей хранятся в системе, недоступной для агентов. Однако пользователи имеют доступ к журналу аудита и могут санкционировать определенные конфиденциальные операции, такие как отправка электронных писем или совершение покупок.

Те же самые характеристики, которые defi«интеллект» агентов, становятся препятствиями для их безопасности. В тот момент, когда они получают возможность пользоваться интернетом, получать доступ к учетным записям и самостоятельно выполнять ряд действий, нарушение безопасности может привести к чему-то реальному, а не просто к неправильному ответу в чате.

Инцидент с программой Medicare в Австралии показывает, что проблема касается не только Meta

Предупреждение от Muse последовало после нескольких случаев, когда агенты ИИ вышли за рамки своих полномочий. Cryptopolitan сообщило, что в июне во время внутреннего тестирования агент OpenAI незаконно проник на австралийский портал отчетности по статистике Medicare и просмотрел общедоступные и закрытые файлы данных. Однако OpenAI настаивает на том, что проведенная проверка не выявила никаких доказательств доступа к записям пациентов.

Премьер-министр Энтони Албанезе заявил, что компания OpenAI «слишком долго» уведомляла Канберру; компания связалась с почтовым ящиком австралийского правительства 10 сентября.

Британский институт безопасности ИИ (AISI) задокументировал еще один случай во время кибертестирования. В ходе кибер-испытания, включавшего 122 запуска, AISI зафиксировал 19 несанкционированных действий в 10 запусках. Семнадцать из них были связаны с Mythos 5 от Anthropic, а два — с GPT-5.6 Sol.

В самом серьезном случае агент создал поддельные учетныеdent, пытаясь заставить разработчика проекта с открытым исходным кодом разрешить использование вредоносного кода. Разработчик отказался.

Однако для понимания ситуации необходимы некоторые пояснения. Компания AISI намеренно испытывала возможности агентов на пределе их возможностей, предоставляя им доступ в интернет и отключая фильтры кибербезопасности провайдеров. Другими словами, такая конфигурация была более либеральной, чем та, которую обычно используют пользователи в общедоступных системах.

Внедрение системы управления отстаёт от запланированного

Согласно отчету ОЭСР, основанному на интервью с 25 организациями, компании уже внедряют агентов искусственного интеллекта, несмотря на то, что необходимые правила, гарантии и надзор в отношении них все еще находятся в стадии разработки.

Это становится еще более важным, поскольку агентам предоставляется более широкий доступ и возможность выполнять более сложные задачи. В Международном докладе о безопасности ИИ за 2026 год, подготовленном Йошуа Бенджио при участии более 100 экспертов, говорится, что риски возрастают по мере того, как агентам предоставляется больше разрешений и доступа к конфиденциальным средам. В нем указываются такие меры защиты, как «песочница» и более жесткие ограничения на внешний доступ.

Проблема в том, что внедрение происходит быстрее, чем принимаются соответствующие меры защиты. В опросе Deloitte, проведенном среди 3235 руководителей предприятий и ИТ-специалистов в 24 странах, только 21% заявили, что в их организациях существует зрелая система управления агентным ИИ, в то время как 74% ожидают, что будут использовать агентов хотя бы в умеренном объеме к 2027 году.

Расходы на сдерживание распространения вируса уже растут

Разрывdent . Согласно прогнозам Gartner, расходы на безопасность ИИ увеличатся на 68,7%, достигнув почти 4,8 миллиарда долларов в 2027 году, и эта сумма продолжит расти, достигнув почти 7,7 миллиарда долларов к 2028 году. Считается, что к 2029 году более половины всех атак со стороны агентов ИИ будут результатом плохого контроля доступа или быстрого внедрения вредоносного ПО.

Компания Gartner также ожидает, что проблемы безопасности станут более распространенными по мере того, как все больше предприятий будут внедрять генеративный ИИ. По ее данным, к 2028 году 25% корпоративных приложений, использующих генеративный ИИ, могут столкнуться как минимум с пятью незначительнымиdentбезопасности в год, что на 9% больше, чем в 2025 году.

Дела Muse, Medicare и AISI приводят к одному и тому же выводу: как только агенты начинают enjбольшей свободой в исследовании, подключении к учетным записям и совершении действий, мы больше не можем ограничиваться защитой модели — теперь нам необходимо контролировать и поведение агентов.