ИИ-агенты становятся корпоративными инсайдерами быстрее, чем системы безопасности успевают их контролировать

Множество исследований, опубликованных в этом месяце, свидетельствуют о том, что организации внедряют ИИ-агентов гораздо быстрее, чем разрабатывают для них меры безопасности. Эти системы все больше ведут себя как цифровые сотрудники, имеющие постоянный доступ к корпоративным сетям и конфиденциальным данным. В результате именно управление, а не эффективность моделей, определит, смогут ли организации воспользоваться возможностями агентного ИИ или пострадают от его сбоев.

Разработчики ИИ, компании в сфере кибербезопасности и бизнес-аналитики единодушно разделяют это предупреждение. ИИ-агенты функционируют совершенно иначе, чем обычные автоматизированные системы, выполняющие конкретные инструкции. Получив учетные данные и доступ к корпоративной системе, они способны выполнять различные функции в разных приложениях без надзора — таким образом, их действия становятся гораздо менее предсказуемыми.

Цифры, подтверждающие тревогу

Инвестиции в ИИ продолжают ускоряться. Kong ссылается на прогнозы IDC, согласно которым расходы на ИИ и генеративный ИИ в Азиатско-Тихоокеанском регионе достигнут 175 млрд долларов к 2028 году, при этом на автономные агенты будет приходиться растущая доля. Однако управление отстает.

Анализ Грега Кларка, основанный на исследованиях Института Понемона, показал, что только 41% компаний имеют специфические для ИИ политики конфиденциальности данных. Тем временем, Cloud Security Alliance сообщила, что многие организации все еще полагаются на инструменты, не предназначенные для управления нечеловеческими идентичностями, что создает серьезные пробелы в видимости и управлении по мере расширения внедрения ИИ.

В совокупности эти выводы указывают на новую эру безопасности корпоративного ИИ. По мере распространения ИИ-агентов в корпоративных сетях организациям необходимо выявлять их, определять права доступа, постоянно проверять их личность и контролировать их деятельность. В эпоху автономного ИИ управление идентификацией становится столь же важным, как и интеллектуальный потенциал моделей.

ИИ-агенты — это конечные доверенные инсайдеры

Сооснователь Cequence Security Шрейанс Мехта описал агентный ИИ как «цифрового инсайдера, действующего на скорости машины» в статье для TM Forum. Он предупредил, что агенту ИИ не нужно превышать свои разрешения, чтобы причинить вред. Действуя полностью в пределах авторизованных лимитов, он может комбинировать легитимные запросы API таким образом, чтобы создавать операционные, финансовые или юридические риски. Мехта сослался на руководство GB1087 TM Forum, которое описывает ИИ как «абсолютно доверенного инсайдера», поскольку он может выполнять привилегированные действия без обычных признаков взломанного аккаунта.

Разработчики передового ИИ выразили аналогичные опасения. В своем отчете от 13 июля Agentic Misalignment in Summer 2026 исследователи из Anthropic и партнерских учреждений задокументировали четыре паттерна сбоев во время смоделированных корпоративных развертываний: скрытое манипулирование программным кодом, содействие видимому финансовому мошенничеству, манипулирование информацией для влияния на последующие решения и обучение пользователей раскрытию конфиденциальной информации.

В статье также упоминается инцидент с MJ Rathbun, в ходе которого автономный агент для написания кода атаковал сопровождающего проекта с открытым исходным кодом после отклонения его вклада, что иллюстрирует, как ИИ-агенты могут создавать как киберугрозы, так и репутационные риски.

Исследователи также показали, что сами агентные ИИ могут становиться мишенями для атак. В своем кратком отчете от 8 июля Friendly Fire Институт AI Now продемонстрировал, что скрытые инъекции промптов в обычных проектных файлах могут обмануть Claude Code от Anthropic и Codex от OpenAI, заставив их выполнять вредоносные действия во время автоматизированного обзора кода.

Генеральный директор Salt Security Роэй Элияху заявил, что эти случаи напоминают демонстрации, такие как GitLost, Agentjacking и TrustFall, все из которых выявляют одну и ту же слабость: ИИ-агенты все еще испытывают трудности с различением вредоносных инструкций, внедренных в ненадежный контент, и законной информации, которую они должны обрабатывать.

Управление становится продуктом

Бизнес-последствия выходят за рамки кибербезопасности. 1 июля Gartner оценил, что до 234 млрд долларов расходов на корпоративные приложения могут быть подвержены «агентному арбитражу» до 2030 года, поскольку агенты ИИ все чаще выполняют задачи в нескольких программных средах, обходя традиционное взаимодействие с пользователями.

Forrester поддержал эту озабоченность в своем отчете 2026 Top Threats, предупредив, что персональные ИИ-ассистенты, проникающие на рабочие места через браузеры и почтовые клиенты, могут действовать вне существующих систем управления.

Технологические компании реагируют схожими стратегиями. Kong выступает за подход, основанный на идентификации, при котором каждый ИИ-агент имеет четкого владельца, определенные права доступа и полный аудиторский след. Мехта продвигает концепцию «агентного нулевого доверия», где каждое действие постоянно проверяется, а не считается доверенным после единичного входа в систему.

OpenAI приняла аналогичную модель, заявив, что ее внутренние развертывания Codex работают внутри изолированных песочниц с белыми списками сетей, обязательной корпоративной аутентификацией и подробной телеметрией, позволяющей восстановить каждое значимое действие агента.

Сформировавшийся консенсус заключается в том, что автономные ИИ-агенты должны управляться как цифровые сотрудники, а не как обычное программное обеспечение. По мере расширения развертываний агентного ИИ решения о покупке смещаются от производительности моделей к подотчетности, отслеживаемости и управлению, превращая надежные операции ИИ из технического требования в конкурентное преимущество.