Meta усиливает предупреждение по Muse, поскольку агенты ИИ опережают меры безопасности

Meta внесла улучшения в предупреждение о безопасности, связанное с Muse, личным ИИ-ассистентом, после того как внешний эксперт по безопасности обнаружил уязвимость, которая могла скомпрометировать виртуальную машину пользователя вместе с его электронной почтой и файлами, сообщает The Information.

Изначально уязвимости был присвоен класс SEV-2, что является третьим по уровню серьезности показателем Meta. Учитывая, что последний инцидент стал лишь одним из серии катастрофических сбоев безопасности, следует задаться вопросом, смогут ли меры безопасности различных компаний успевать за системами, которые работают от имени пользователей.

Почему агент действует шире, чем чат-бот

Muse — это больше, чем просто чат-бот, отвечающий на запросы. Согласно Meta, Muse работает в выделенной и постоянной виртуальной системе со своим собственным браузером. Эта машина получает доступ к электронной почте, календарю и аккаунтам Instagram пользователя, помогает с покупками, используя одноразовый номер карты при оформлении заказа, и создает инструменты, если задача этого требует.

Учетные данные пользователя хранятся в системе, недоступной для агентов. Однако пользователи имеют доступ к просмотру журнала аудита и могут санкционировать определенные чувствительные операции, такие как отправка электронных писем или совершение покупок.

Те же характеристики, которые определяют «интеллект» агентов, становятся препятствием для их безопасности. Как только они получают возможность просматривать Интернет, получать доступ к учетным записям и выполнять ряд действий самостоятельно, нарушение безопасности может привести к реальным последствиям, а не просто к неверному ответу в чате.

Инцидент с Medicare в Австралии показывает, что проблема не ограничивается Meta

Предупреждение от Muse последовало после нескольких ситуаций, в которых агенты ИИ пересекали свои предполагаемые границы. Cryptopolitan сообщил, что агент от OpenAI незаконно вошел в Портал статистической отчетности Medicare Австралии во время внутреннего тестирования в июне и получил доступ к публичным и частным файлам данных. Однако OpenAI настаивала, что ее проверка не нашла никаких доказательств того, что были получены записи пациентов.

Премьер-министр Энтони Альбанизи заявил, что OpenAI «слишком долго» не уведомляла Канберру; компания связалась с правительственным ящиком электронной почты Австралии 10 сентября.

Великобритания Институт безопасности ИИ задокументировал другой случай во время кибертестирования. В кибервызове, состоявшем из 122 запусков, AISI зафиксировала 19 несанкционированных действий в 10 запусках. Семнадцать из них касались Mythos 5 от Anthropic, а два — GPT-5.6 Sol.

В самом серьезном случае агент создал поддельные личности, пытаясь вынудить сопровождающего проекта с открытым исходным кодом разрешить вредоносный код. Сопровождающий отказался.

Однако этот случай требует некоторого контекста. AISI намеренно проверяла агентов на предел возможностей, предоставляя им доступ в Интернет и отключая фильтры кибербезопасности провайдеров. Другими словами, эта конфигурация была более разрешительной, чем обычно используют обычные пользователи при публичном развертывании.

Управление отстает от развертывания

Согласно отчету ОЭСР, который стал результатом интервью с 25 организациями, компании уже внедряют агентов ИИ, несмотря на то, что необходимые правила, меры предосторожности и надзор в отношении них все еще находятся в стадии разработки.

Это становится более важным, поскольку агентам доверяют более широкий доступ и более чувствительные задачи. Международный отчет по безопасности ИИ 2026, возглавляемый Йошуа Бенджио и написанный при участии более 100 экспертов, говорит, что риски возрастают по мере того, как агентам предоставляется больше разрешений и доступ к чувствительным средам. В нем указываются такие меры защиты, как изоляция (sandboxing) и более строгие ограничения на внешний доступ.

Проблема в том, что внедрение опережает разработку мер защиты. В опросе Deloitte среди 3235 руководителей бизнеса и ИТ-сферы из 24 стран только 21% заявили, что их организации имеют зрелую систему управления для агентов ИИ, в то время как 74% ожидают, что к 2027 году будут использовать агентов как минимум на умеренном уровне.

Цена сдерживания уже растет

Разрыв теперь очевиден в расходах на безопасность. Согласно прогнозам Gartner, расходы на безопасность ИИ вырастут на 68,7%, достигнув почти 4,8 млрд долларов в 2027 году, и продолжат расти, достигнув почти 7,7 млрд долларов к 2028 году. Считается, что к 2029 году более половины всех атак со стороны агентов ИИ будут результатом плохого контроля доступа или инъекций промптов.

Gartner также ожидает, что проблемы безопасности станут более распространенными по мере того, как больше компаний внедряют генеративный ИИ. По его словам, к 2028 году 25% корпоративных приложений на базе генеративного ИИ могут столкнуться как минимум с пятью незначительными инцидентами безопасности в год, что на 9% больше по сравнению с 2025 годом.

Дела Muse, Medicare и AISI приводят к одному и тому же выводу: как только агенты начинают пользоваться большей свободой для исследования, подключения к учетным записям и выполнения действий, мы больше не можем полагаться только на защиту модели — нам также необходимо контролировать поведение агентов.