OpenAI внедряет режим блокировки для предотвращения утечек данных в ChatGPT

OpenAI начала внедрять режим блокировки для личных и бизнес-аккаунтов. Это дополнительная настройка безопасности, которая предотвращает подключение ChatGPT к веб-интернету и другим внешним сервисам. Цель состоит в том, чтобы помочь пользователям, работающим с конфиденциальными данными, снизить риск извлечения информации через атаки с использованием инъекций промптов.

Режим блокировки останавливает внешние каналы данных

Режим блокировки (Lockdown Mode) останавливает живое веб-сёрфинг, глубокое исследование, режим агента и загрузку файлов для анализа данных. Эта функция предотвращает взаимодействие внешних каналов данных с AI-моделью.

Результаты поиска ограничены кэшированным контентом, который может быть неполным или устаревшим. Поиск изображений в интернете также перестает работать. Однако пользователь все еще может загружать свои собственные изображения и использовать генерацию изображений.

Список ограничений специфичен. Во-первых, код Canvas теряет доступ к сети. Кроме того, некоторые связанные функции, включая финансовые инструменты и возможности агентов для покупок, полностью перестают работать.

Режим блокировки не предотвратит появление инъекций промптов в контенте, который обрабатывает ChatGPT. Вредоносные инструкции, скрытые в кэшированных веб-страницах или загруженных файлах, все еще могут изменять то, как модель отвечает. Режим блокировки по сути блокирует последний этап, когда эксфильтрованные данные покидали бы системы OpenAI и достигали злоумышленника.

«Режим блокировки не предназначен для всех», — заявляет OpenAI в своей документации. «Он разработан для людей и организаций, которые работают с конфиденциальными данными и хотят более строгой защиты от рисков эксфильтрации данных, связанных с инъекциями промптов».

Кто может использовать режим блокировки OpenAI?

Личные аккаунты Free, Go, Plus и Pro, а также бизнес-аккаунты ChatGPT имеют право на использование. Внедрение происходит постепенно, и если пользователь не видит эту функцию в настройках, ему нужно подождать.

Администраторы корпоративных аккаунтов могут создавать пользовательские роли режима блокировки и назначать их конкретным участникам или группам.

Пользователь может переключать эту функцию в разделе расширенной безопасности. Режим блокировки также можно отключить для отдельных чатов, не отключая его для всего аккаунта.

Режим блокировки и режим разработчика не могут работать одновременно; включение одного автоматически отключает другой.

OpenAI пытается решить проблему атак с использованием инъекций промптов

Инъекция промптов — одна из самых сложных проблем безопасности, с которой сталкиваются продукты ИИ. Злоумышленники внедряют скрытые инструкции в документы, веб-страницы или другой контент, который обрабатывает чат-бот. Цель состоит в том, чтобы обмануть чат-боты, заставив их отправлять конфиденциальную информацию или выполнять другие вредоносные действия.

OpenAI имеет множество уровней защиты кибербезопасности, включая песочницу, фильтры URL, мониторинг и журналы аудита. Режим блокировки — это дополнительный уровень, который предотвращает утечку украденных данных.

OpenAI признала в блоге от декабря 2025 года, что баллы за безопасность в формате «захват флага» выросли с 27% до 76% между поколениями моделей всего за три месяца.

Режим блокировки не меняет настройки памяти ChatGPT, возможности загрузки файлов, параметры обмена разговорами или то, используются ли разговоры для обучения модели. Эти функции остаются отдельными переключателями, и эта функция также не влияет на Codex.

OpenAI классифицирует сторонние интеграции по трем уровням риска. Действия по записи для ненадежных приложений несут самый высокий риск эксфильтрации. Синхронизационные коннекторы имеют более низкий риск, поскольку данные уже хранятся в системах OpenAI. Однако они все еще могут быть источником конфиденциальной информации, на которую охотятся злоумышленники.