OpenAI предупреждает, что ее ИИ-модели следующего поколения могут стать инструментами хакеров

Компания, стоящая за ChatGPT, выпустила резкое предупреждение в среду о потенциальных опасностях, скрывающихся в ее следующем волне систем искусственного интеллекта, заявив, что они могут представлять серьезные угрозы кибербезопасности.

OpenAI заявила, что ее будущие модели ИИ могут быть способны создавать функциональные эксплойты нулевого дня, нацеленные на сильно защищенные компьютерные системы. Эта технология также может помочь в проведении сложных атак на бизнес или промышленные объекты, предназначенных для причинения реального ущерба.

Ситуация развивается быстро. В своем блоге OpenAI упомянул, что производительность в задачах по захвату флагов (capture-the-flag) в области безопасности выросла с 27% на GPT-5 в августе 2025 года до 76 процентов на GPT-5.1-Codex-Max всего через три месяца в ноябре 2025 года.

OpenAI теперь предполагает, что каждая новая модель, которую она создает, может достичь того, что она называет «высоким» уровнем кибербезопасности. Это означает системы, способные создавать рабочие эксплойты для ранее неизвестных уязвимостей в хорошо защищенных сетях или помогать в сложных кампаниях по вторжению, нацеленных на критическую инфраструктуру.

Фирма, поддерживаемая Microsoft, заявила, что инвестирует в улучшение своих моделей для работы в области оборонительной безопасности. Компания создает инструменты, помогающие командам по безопасности проверять код на наличие проблем и устранять бреши в безопасности. OpenAI хочет дать защитникам преимущество, поскольку они обычно в меньшинстве и испытывают нехватку ресурсов.

Вот где становится сложно. Оборонительная и наступательная работа в области кибербезопасности используют одни и те же базовые знания и методы. То, что помогает защитникам, может так же легко помочь и атакующим. OpenAI говорит, что не может полагаться на одно защитное средство. Ей нужны слои элементов управления безопасностью, работающих вместе.

Компания использует ограничения доступа, усиленную безопасность инфраструктуры, контроль за потоком информации и постоянный мониторинг. Она также обучает модели отказываться от запросов, которые могут способствовать кибератакам, сохраняя при этом их полезность для законной работы в области безопасности и образования.

Системы обнаружения отслеживают подозрительную активность во всех продуктах с использованием продвинутых моделей. Когда что-то выглядит опасным, система блокирует результаты, переключается на более слабую модель или помечает их для проверки человеком.

Тестирование пределов

OpenAI работает со специализированными группами по тестированию безопасности, которые пытаются пробиться через все ее защиты. Они моделируют то, как может действовать решительный атакующий с серьезными ресурсами. Это помогает находить слабые места до того, как это сделают реальные угрозы.

Киберугрозы со стороны ИИ беспокоят людей во всей отрасли. Как ранее сообщалось Cryptopolitan, хакеры уже используют технологии ИИ для улучшения своих атак.

Фирма планирует программу, которая предоставит квалифицированным пользователям, работающим над оборонительной кибербезопасностью, специальный доступ к улучшенным возможностям в ее новейших моделях. OpenAI все еще работает над тем, какие функции могут быть широко доступны, а какие требуют более строгих ограничений.

Затем есть Aardvark. Этот инструмент безопасности в закрытом тестировании помогает разработчикам и командам по безопасности находить и устранять уязвимости в масштабах. Он сканирует код на наличие слабых мест и предлагает исправления. Система уже обнаружила новые уязвимости в программном обеспечении с открытым исходным кодом. OpenAI планирует выделить значительные ресурсы на укрепление более широкой экосистемы безопасности. Это включает предоставление бесплатного покрытия некоторым некоммерческим проектам с открытым исходным кодом.

OpenAI создаст Совет по рискам на переднем крае (Frontier Risk Council). Это объединит опытных защитников и практиков в области кибербезопасности. Группа начинается с кибербезопасности, но расширится на другие области. Члены Совета помогают определять границы между полезными возможностями и потенциальным злоупотреблением.

Безопасность остается проблемой

Компания работает с другими ведущими компаниями в области ИИ через Форум моделей переднего края (Frontier Model Forum). Эта некоммерческая организация разрабатывает общее понимание угроз и лучших практик. OpenAI считает, что риски безопасности от продвинутого ИИ могут исходить от любой крупной ИИ-системы в отрасли.

Недавние исследования показали, что агенты ИИ могут обнаруживать уязвимости нулевого дня, стоящие миллионы долларов, в смарт-контрактах блокчейна. Это подчеркивает, как эти развивающиеся возможности работают в обе стороны.

OpenAI приложила усилия для усиления собственных мер безопасности, но компания столкнулась со своими собственными проблемами. Фирма имела дело с несколькими нарушениями безопасности в прошлом. Это показывает, насколько сложно защищать системы ИИ и инфраструктуру.

Компания говорит, что это постоянная работа. Цель состоит в том, чтобы дать защитникам преимущества и укрепить безопасность критической инфраструктуры во всей технологической экосистеме.