OpenAI внедряет режим блокировки для предотвращения утечек данных в ChatGPT

OpenAI начала внедрение режима блокировки для личных и корпоративных учетных записей. Это дополнительная настройка безопасности, которая предотвращает подключение ChatGPT к веб-сервисам и другим внешним источникам. Цель состоит в том, чтобы помочь пользователям, работающим с конфиденциальными данными, снизить рискtracинформации с помощью атак с внедрением уязвимости.

Режим блокировки останавливает внешние каналы передачи данных

Режим блокировки блокирует просмотр веб-страниц в режиме реального времени, углублённые исследования, агентский режим и загрузку файлов для анализа данных. Эта функция предотвращает взаимодействие внешних каналов данных с моделью ИИ.

Результаты поиска ограничены кэшированным контентом, который может быть неполным или устаревшим. Также прекращается возможность получения изображений из интернета. Однако пользователь по-прежнему может загружать собственные изображения и использовать функцию генерации изображений.

Список ограничений довольно специфичен. Во-первых, код Canvas теряет доступ к сети. Кроме того, некоторые связанные с ним функции, включая финансовые инструменты и функции торгового агента, полностью перестают работать.

Режим блокировки не предотвратит появление подсказок в контенте, обрабатываемом ChatGPT. Вредоносные инструкции, скрытые в кэшированных веб-страницах или загруженных файлах, по-прежнему могут изменять реакцию модели. Режим блокировки, по сути, блокирует заключительный этап, на котором украденные данные покидают системы OpenAI и попадают к злоумышленнику.

«Режим блокировки предназначен не для всех», — говорится в документации OpenAI. «Он разработан для людей и организаций, работающих с конфиденциальными данными и желающих получить более строгую защиту от рисков утечки данных, связанных с быстрой инъекцией»

Кто может использовать режим блокировки OpenAI?

Доступны личные аккаунты Free, Go, Plus и Pro, а также бизнес-аккаунты ChatGPT. Внедрение происходит постепенно, и если пользователь не видит эту функцию в настройках, ему нужно подождать.

Администраторы корпоративных учетных записей могут создавать пользовательские роли в режиме блокировки и назначать их конкретным участникам или группам.

Пользователь может включить или выключить эту функцию в разделе расширенных настроек безопасности. Режим блокировки также можно отключить для отдельных чатов, не отключая его для всей учетной записи.

Режим блокировки и режим разработчика не могут работать одновременно; включение одногоmaticотключает другой.

Компания OpenAI пытается решить проблему атак с внедрением подсказок

Внедрение скрытых инструкций (prompt injection) — одна из самых сложных проблем безопасности, с которыми сталкиваются продукты на основе искусственного интеллекта. Злоумышленники внедряют скрытые инструкции в документы, веб-страницы или другой контент, обрабатываемый чат-ботом. Цель — обманом заставить чат-ботов отправлять конфиденциальную информацию или выполнять другие вредоносные действия.

OpenAI использует многоуровневую систему киберзащиты, включая песочницу, фильтры URL-адресов, мониторинг и журналы аудита. Режим блокировки — это дополнительный уровень защиты, предотвращающий утечку украденных данных.

В декабре 2025 года в своем блоге OpenAI признала, что показатели безопасности в задаче «захват флага» выросли с 27% до 76% во всех поколениях моделей всего за три месяца.

Режим блокировки не изменяет настройки памяти ChatGPT, возможности загрузки файлов, параметры обмена сообщениями или использование сообщений для обучения модели. Эти параметры остаются отдельными переключателями, и эта функция также не влияет на Codex.

OpenAI классифицирует интеграции со сторонними сервисами по трем уровням риска. Действия по написанию кода для ненадежных приложений несут наибольший риск утечки данных. Коннекторы синхронизации имеют более низкий уровень риска, поскольку данные уже хранятся в системах OpenAI. Однако они все еще могут быть источником конфиденциальной информации, которую могут попытаться получить злоумышленники.