Компания OpenAI предупреждает, что ее модели искусственного интеллекта следующего поколения могут стать инструментами хакеров.

В среду компания, разработавшая ChatGPT, выступила с серьезным предупреждением о потенциальных опасностях, таящихся в ее следующей волне систем искусственного интеллекта, заявив, что они могут представлять серьезную угрозу кибербезопасности.

Компания OpenAI заявила, что ее будущие модели ИИ могут быть способны создавать функциональные уязвимости нулевого дня, нацеленные на высокозащищенные компьютерные системы. Эта технология также может помочь в проведении сложных атак на предприятия или промышленные объекты, направленных на причинение реального ущерба.

События развиваются стремительно. В своем блоге OpenAI упомянула, что производительность в задачах безопасности типа «захват флага» подскочила с 27% на GPT-5 в августе 2025 года до 76% на GPT-5.1-Codex-Max всего через три месяца, в ноябре 2025 года.

Теперь OpenAI исходит из предположения, что каждая новая создаваемая ею модель может соответствовать так называемому «высокому» уровню кибербезопасности. Это означает, что системы могут создавать работающие эксплойты для ранее неизвестных уязвимостей в хорошо защищенных сетях или помогать в сложных кампаниях вторжения, направленных на критическую инфраструктуру.

Компания, поддерживаемая Microsoft, заявила, что инвестирует в совершенствование своих моделей для обеспечения безопасности. Компания разрабатывает инструменты, которые помогут командам безопасности проверять код на наличие проблем и устранять уязвимости. OpenAI хочет дать защитникам преимущество, поскольку они обычно находятся в меньшинстве и испытывают нехватку ресурсов.

Вот тут-то и начинаются сложности. В оборонительной и наступательной кибербезопасности используются одни и те же базовые знания и методы. То, что помогает защитникам, с таким же успехом может помочь и злоумышленникам. OpenAI утверждает, что не может полагаться на одну меру защиты. Необходимы многоуровневые средства контроля безопасности, работающие согласованно.

Компания использует ограничения доступа,tronзащиту инфраструктуры, контроль за потоком информации и постоянный мониторинг. Она также обучает модели отклонять запросы, которые могут способствовать кибератакам, сохраняя при этом их полезность для законной работы в области безопасности и обучения.

Системы обнаружения отслеживают подозрительную активность в различных продуктах с помощью передовых моделей. Если что-то выглядит опасным, система блокирует результаты, переключается на более слабую модель или помечает запрос для проверки человеком.

Испытание пределов возможностей

OpenAI сотрудничает со специализированными группами по тестированию безопасности, которые пытаются преодолеть все системы защиты. Они имитируют действия целеустремленного злоумышленника, обладающего серьезными ресурсами. Это помогает выявлять слабые места до того, как их обнаружат реальные угрозы.

Риски кибербезопасности, связанные с ИИ, беспокоят людей во всей отрасли. Как ранее сообщал Cryptopolitan , хакеры уже используют технологии ИИ для усовершенствования своих атак.

Компания планирует запустить программу, которая предоставит квалифицированным пользователям, работающим в сфере кибербезопасности, особый доступ к расширенным возможностям своих новейших моделей. OpenAI все еще определяет, какие функции могут быть широко доступны, а для каких необходимы более жесткие ограничения.

Затем есть Aardvark. Этот инструмент безопасности для частного тестирования помогает разработчикам и командам безопасности находить и исправлять уязвимости в больших масштабах. Он сканирует код на наличие слабых мест и предлагает решения. Система уже обнаружила новые уязвимости в программном обеспечении с открытым исходным кодом. OpenAI планирует вложить значительные ресурсы в укрепление более широкой экосистемы безопасности. Это включает в себя предоставление бесплатного покрытия некоторым некоммерческим проектам с открытым исходным кодом.

Компания OpenAI создаст Совет по передовым рискам (Frontier Risk Council). Он объединит опытных специалистов и практиков в области кибербезопасности. Группа начнет свою работу с кибербезопасности, но в дальнейшем расширит свою деятельность на другие области. Члены Совета помогут определить границы между полезными возможностями и потенциальным злоупотреблением.

Обеспечение безопасности по-прежнему остается проблемой.

Компания сотрудничает с другими ведущими компаниями в области ИИ через Frontier Model Forum. Эта некоммерческая организация способствует формированию общего понимания угроз и передовых методов. OpenAI считает, что риски безопасности, связанные с передовым ИИ, могут исходить от любой крупной системы ИИ в отрасли.

Недавние исследования показали, что агенты искусственного интеллекта могут обнаруживать уязвимости нулевого дня в смарт-tracблокчейна, стоимость которых исчисляется миллионами. Это подчеркивает, как эти развивающиеся возможности работают в обе стороны.

Компания OpenAI работала над усилением собственных мер безопасности, но столкнулась и с собственными проблемами. В прошлом фирма неоднократно сталкивалась с нарушениями безопасности. Это показывает, насколько сложно защитить системы и инфраструктуру искусственного интеллекта.

Компания заявляет, что это непрерывная работа. Цель состоит в том, чтобы предоставить специалистам по защите преимущества и укрепить безопасность критической инфраструктуры во всей технологической экосистеме.