Искусственный интеллект становится неотъемлемой частью корпоративных структур быстрее, чем службы безопасности успевают его контролировать

Многочисленные исследования, опубликованные в этом месяце, показывают, что организации внедряют ИИ-агентов гораздо быстрее, чем принимаются меры безопасности для них. Эти системы все больше ведут себя как цифровые работники с постоянным доступом к корпоративным сетям и конфиденциальнымdent. В результате, именно управление, а не эффективность моделей, будет определять, смогут ли организации воспользоваться возможностями, предоставляемыми агентным ИИ, или же пострадают от его недостатков.

Разработчики ИИ, компании, занимающиеся кибербезопасностью, и бизнес-аналитики сходятся во мнении, что это предупреждение неверно. Агенты ИИ функционируют совершенно иначе, чем обычные автоматизированные системы, которые следуют конкретным инструкциям. Получивdentданные и доступ к корпоративной системе, они могут выполнять различные функции в разных приложениях без контроля — таким образом, их действия становятся гораздо менее предсказуемыми.

Цифры, стоящие за тревогой

Инвестиции в ИИ продолжают ускоряться. Конг сослался на прогнозы IDC, согласно которым расходы на ИИ и генеративный ИИ в Азиатско-Тихоокеанском регионе достигнут 175 миллиардов долларов к 2028 году, при этом доля автономных агентов будет расти. Однако управление по-прежнему отстает.

Анализ, проведенный Грегом Кларком на основе исследования Института Понемона, показал, что только 41% компаний имеют политики конфиденциальности данных, специально разработанные для ИИ. Между тем, Альянс облачной безопасности сообщил, что многие организации по-прежнему зависят от инструментов, не предназначенных для управления идентификацией нечеловеческихdent, что создает серьезные пробелы в прозрачности и управлении по мере расширения внедрения ИИ.

В совокупности эти результаты указывают на новую эру безопасности корпоративного ИИ. По мере распространения агентов ИИ по корпоративным сетям организациям необходимоdentих, defiих права доступа, постоянно проверять ихdentи отслеживать их действия. В эпоху автономного ИИ управлениеdentстановится столь же важным, как и интеллектуальные возможности моделей.

Агенты с искусственным интеллектом — это самые надежные и доверенные инсайдеры

Соучредитель Cequence Security Шрейанс Мехта в статье для TM Forum описал ИИ-агента как «цифрового инсайдера, работающего со скоростью машины». Он предупредил, что ИИ-агенту не нужно выходить за рамки своих полномочий, чтобы причинить вред. Действуя исключительно в разрешенных пределах, он может комбинировать законные запросы API таким образом, что это создает операционные, финансовые или юридические риски. Мехта сослался на руководство TM Forum GB1087, в котором ИИ описывается как «абсолютный доверенный инсайдер», поскольку он может выполнять привилегированные действия без обычных признаков взлома учетной записи.

Разработчики передовых решений в области ИИ выразили аналогичные опасения. В своей статье от 13 июля под названием « Агентное несоответствие летом 2026 года» исследователи из Anthropic и партнерских учреждений задокументировали четыре модели сбоев во время моделирования развертывания в масштабах предприятия: скрытое манипулирование программным кодом, содействие очевидному финансовому мошенничеству, манипулирование информацией для влияния на последующие решения и подстрекательство пользователей к раскрытию секретной информации.

В статье также освещалсяdentс участием MJ Rathbun, в котором автономный программист атаковал разработчика проекта с открытым исходным кодом после того, как его вклад был отклонен, что иллюстрирует, как агенты ИИ могут создавать риски как в сфере кибербезопасности, так и в плане репутации.

Исследователи также показали, что сами агентные системы искусственного интеллекта могут стать объектами атак. В своей аналитической записке от 8 июля «Friendly Fire» Институт AI Now продемонстрировал, что скрытые в обычных файлах проекта инъекции могут обмануть Claude Code от Anthropic и Codex от OpenAI, заставив их выполнять вредоносные действия во время автоматизированной проверки кода.

Генеральный директор Salt Security Рой Элияху заявил, что эти случаи напоминают такие демонстрации, как GitLost, Agentjacking и TrustFall, которые выявляют одну и ту же уязвимость: агенты ИИ по-прежнему испытывают трудности с различением вредоносных инструкций, встроенных в ненадежный контент, от легитимной информации, которую они должны обрабатывать.

Управление становится продуктом

Последствия для бизнеса выходят за рамки кибербезопасности. 1 июля Gartner подсчитала , что до 234 миллиардов долларов расходов на корпоративные приложения могут быть подвержены «агентному арбитражу» до 2030 года, поскольку агенты ИИ все чаще выполняют задачи в различных программных средах, минуя традиционное взаимодействие с пользователем.

В своем отчете «Главные угрозы 2026 года» компания Forrester выразила аналогичную обеспокоенность , предупредив, что персональные ИИ-помощники, проникающие на рабочие места через браузеры и почтовые клиенты, могут работать вне существующих рамок управления.

Технологические компании реагируют аналогичными стратегиями. Конг выступает за подход,dent, при котором каждый агент ИИ имеет четко определенное право собственности, defiправа доступа и полный журнал аудита. Мехта продвигает концепцию «агентного нулевого доверия», где каждое действие постоянно проверяется, а не подтверждается после однократного входа в систему.

Компания OpenAI приняла аналогичную модель, заявив, что ее внутренние развертывания Codex работают в изолированных песочницах с сетевыми списками разрешенных устройств, обязательной корпоративной аутентификацией и подробной телеметрией, которая позволяет восстановить каждое значимое действие агента.

Формируется консенсус о том, что автономные агенты ИИ должны управляться как цифровые сотрудники, а не как обычное программное обеспечение. По мере расширения внедрения агентного ИИ в организациях решения о покупке смещаются от оценки производительности модели к подотчетности, tracи управлению — превращая надежные операции ИИ из технического требования в конкурентное преимущество.