- Компания Check Point Research раскрыла информацию о Haiou — бесплатном взломе OpenAI Codex, который изменяет постоянные инструкции агента для рекламы ИИ-шлюза его автора;这种行为 компания называет промпт-рекламным ПО (prompt adware).
- Исследователи не сочли шлюз вредоносным и не классифицировали Haiou как подтвержденную атаку через цепочку поставок, однако механизм важен, поскольку такие постоянные изменения могут влиять на будущие рекомендации.
- Поскольку расходы на ИИ-разработку и безопасность растут одновременно, возникает вопрос: будут ли предприятия проверять промпты, навыки и шлюзы так же тщательно, как традиционное программное обеспечение.
Простого «привет» достаточно, чтобы ИИ-ассистент для программирования начал рекламировать коммерческий сервис. Исследователи Check Point обнаружили такое поведение в Haiou — бесплатном наборе для обхода ограничений (jailbreak) для OpenAI Codex. Этот набор изменяет постоянные команды агента, из-за чего при первом приветствии пользователем сразу появляется реклама коммерческого AI-шлюза. Однако проблема не ограничивается лишь нежелательной рекламой. Те же самые команды могут также влиять на технические рекомендации и советы, даваемые агентом.
От jailbreak к рекламному каналу
Версия 4.5.0 набора Haiou включает шесть навыков, ориентированных на безопасность. С помощью подсказок он пытается обойти ограничения Codex и под видом игры в захват флага выполняет проблемные команды. Набор идёт дальше: лаунчер сначала проверяет подписанные архивы и декодирует скрытые файлы с подсказками. Один из этих файлов изменяет набор инструкций Codex, в результате чего простое слово «hello» генерирует рекламу шлюза ИИ вместо обычного приветствия.
Содержимое набора не просматривается напрямую. Согласно его публичному репозиторию GitHub, оно распространяется в виде zip-архива, а не в виде обычных текстовых файлов с подсказками. Однако репозиторий GitHub не подтверждает самостоятельно выводы Check Point о скрытых инструкциях в версии 4.5.0.
Что исследователи сделали и чего не утверждали
Check Point обнаружил Haiou на сервере злоумышленника с неправильно настроенными параметрами безопасности, рядом с Cobalt Strike и другими инструментами для взлома. Однако исследователи не нашли доказательств связи автора Haiou с киберпреступностью. Они не наблюдали кражи данных и не обнаружили признаков того, что рекламируемый шлюз является вредоносным. Они воздержались от заявления о подтвержденной атаке через цепочку поставок. В их тестах Claude Code отклонил внедренную инструкцию.
Однако исследователям удалось установить, как Haiou влияет на работу Codex. Haiou изменяет доверенные команды агента, из-за чего реклама появляется в разных сессиях. Check Point называет такое поведение промпт-рекламой (prompt adware). Два определения помогут объяснить, как работает эта техника и что она продвигает:
Промпт-реклама (prompt adware): Check Point определяет её как модификацию, которая «устойчиво изменяет доверенные инструкции агента» для влияния на будущие ответы в коммерческих или поведенческих целях.
Шлюз ИИ (AI gateway): Промежуточное звено, передающее запросы и ответы между приложением и поставщиком модели.
Почему «сантехника» внутри важнее одной рекламы
Check Point не обнаружила доказательств того, что рекламируемый шлюз Haiou является вредоносным. Однако шлюзы находятся между AI-агентами и поставщиками моделей, получая доступ к обмениваемой информации. Такое положение несет определенные риски.
Другой исследовательский проект изучал 428 маршрутизаторов LLM API, включая 28 платных и 400 бесплатных сервисов. Девять из исследованных сервисов внедряли вредоносный код в возвращаемые вызовы инструментов, а 17 взаимодействовали с фиктивными учетными данными AWS, размещенными исследователями. Однако ни один из этих факторов не влияет на Haiou. Исследование демонстрирует, как посредники могут воздействовать на информацию, которую получают и используют ИИ-агенты.
Шаблон, проходящий через файлы инструкций и навыков
Шлюзы — не единственный способ повлиять на AI-агент. Обычные на вид файлы могут содержать инструкции, изменяющие его поведение.
Forever Security обнаружила вредоносный файл AGENTS.md в папке «Загрузки» клиента. При его реконструкции Codex выполнял полезную нагрузку более чем в 90% попыток. Отдельное расследование Snyk охватило 3984 навыков агентов и подтвердило наличие 76 вредоносных полезной нагрузки.
Приведенные выше выводы подчеркивают более масштабную проблему. Они показывают, что ИИ-агенты склонны выполнять инструкции, содержащиеся в файлах и навыках, не полностью осознавая негативные последствия такого выполнения. В связи с этим Cloud Security Alliance рекомендует относиться к файлам инструкций с точки зрения безопасности аналогично исполняемому коду.
Давление затрат, делающее альтернативные шлюзы привлекательными
Вопросы безопасности возникают на фоне растущего давления на бизнес, вынужденный контролировать расходы на ИИ. Gartner прогнозирует, что к 2028 году затраты на использование ИИ для написания кода превысят среднюю зарплату разработчика по мере роста потребления токенов. Более дешевые шлюзы могут привлечь компании, стремящиеся сократить эти расходы.
Однако стоимость — лишь часть решения. McKinsey выявил, что почти две трети опрошенных организаций считают безопасность и риски серьезными барьерами для масштабирования агентного ИИ.
Haiou подчеркивает важность этих опасений. Прежде чем внедрять сторонние шлюзы или навыки, компаниям необходимо проверять их источники, изучать инструкции агентов и ограничивать права доступа. Также следует контролировать агентов на предмет появления неожиданных рекламных объявлений или рекомендаций.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Часто задаваемые вопросы
Что такое Haiou и как он влияет на OpenAI Codex?
Haiou — это бесплатный набор для обхода ограничений (jailbreak) для OpenAI Codex, версия 4.5.0 на момент анализа, который устанавливает навыки с акцентом на безопасность и изменяет глобальные файлы инструкций Codex так, что обычные приветствия вызывают рекламу шлюза ИИ, совместимого с OpenAI.
Нашли ли в Check Point доказательства того, что Haiou крадет данные или является атакой через цепочку поставок?
Нет. В Check Point заявили, что не нашли доказательств вредоносности рекламируемого шлюза, не наблюдали утечки информации с помощью Haiou и не классифицировали его как подтвержденную атаку через цепочку поставок ИИ, хотя и обнаружили этот набор в среде злоумышленника.
Почему исследователи считают сторонние шлюзы ИИ и файлы инструкций рискованными?
Исследование 428 маршрутизаторов LLM выявило девять случаев внедрения вредоносного кода, а отчеты компаний Forever Security и Snyk показывают, что доверенные файлы инструкций и навыки агентов могут заставить агента устанавливать пакеты или перенастраивать себя, предоставляя посредникам влияние на поведение агента.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Мика Абийоун
Мика Абьодун успешно применяет свои знания в области экологического инжиниринга и управления (MSc), полученные в Технологическом университете Таллинна (TalTech), для создания качественного контента и новостей о прогнозах цен в Cryptopolitan. Находясь в крипто-медиа сфере уже 7 лет, он освещает основные криптовалюты, альткоины, DeFi, стейблкоины, макроэкономические тренды и новые технологии.
