OpenAI, ChatGPT의 데이터 유출 방지를 위해 잠금 모드 출시

OpenAI는 개인 및 비즈니스 계정에 잠금 모드를 rollout하기 시작했습니다. 이는 ChatGPT가 웹 및 기타 외부 서비스에 연결되는 것을 방지하는 선택적 보안 설정입니다. 목표는 민감한 데이터를 다루는 사용자가 프롬프트 인젝션 공격을 통해 정보가 추출될 위험을 줄이는 데 도움을 주는 것입니다.

잠금 모드는 외부 데이터 채널을 차단합니다

잠금 모드(Lockdown Mode)는 라이브 웹 브라우징, 심층 연구, 에이전트 모드, 데이터 분석을 위한 파일 다운로드를 차단합니다. 이 기능은 외부 데이터 채널이 AI 모델과 상호작용하는 것을 방지합니다.

검색 결과는 캐시된 콘텐츠로 제한되며, 이는 불완전하거나 오래되었을 수 있습니다. 웹에서의 이미지 검색도 작동하지 않습니다. 그러나 사용자는 여전히 자신의 이미지를 업로드하고 이미지 생성을 사용할 수 있습니다.

제한 목록은 구체적입니다. 먼저, Canvas 코드는 네트워크 접근 권한을 잃습니다. 또한 금융 도구 및 쇼핑 에이전트 기능 등 특정 연결된 경험 기능들은 완전히 작동하지 않게 됩니다.

잠금 모드는 ChatGPT가 처리하는 콘텐츠에 프롬프트 인젝션이 나타나는 것을 방지하지 않습니다. 캐시된 웹 페이지나 업로드된 파일에 숨겨진 악의적인 지시는 모델의 응답 방식을 여전히 변경할 수 있습니다. 잠금 모드는 사실상 유출된 데이터가 OpenAI 시스템을 떠나 공격자에게 도달하는 마지막 단계를 차단합니다.

“잠금 모드는 모든 사람을 위한 것이 아닙니다.” OpenAI는 문서에서 “이것은 민감한 데이터를 다루고 프롬프트 인젝션과 관련된 데이터 유출 위험으로부터 더 엄격한 보호를 원하는 개인 및 조직을 위해 설계되었습니다.”라고 명시합니다.

누가 OpenAI의 잠금 모드를 사용할 수 있나요?

무료, Go, Plus, Pro 개인 계정과 ChatGPT 비즈니스 계정이 대상입니다. 롤아웃은 점진적으로 진행되며, 설정에서 해당 기능을 볼 수 없는 경우 사용자는 기다려야 합니다.

엔터프라이즈 계정 관리자는 사용자 정의 잠금 모드 역할을 생성하고 특정 구성원이나 그룹에 할당할 수 있습니다.

사용자는 고급 보안 설정에서 이 기능을 토글할 수 있습니다. 잠금 모드는 전체 계정에서 비활성화하지 않고도 개별 채팅에서만 비활성화할 수도 있습니다.

잠금 모드와 개발자 모드는 동시에 실행될 수 없으며, 하나를 활성화하면 다른 하나는 자동으로 비활성화됩니다.

OpenAI는 프롬프트 인젝션 공격을 해결하려고 노력하고 있습니다

프롬프트 인젝션은 AI 제품이 직면한 가장 어려운 보안 문제 중 하나입니다. 공격자는 채팅봇이 처리하는 문서, 웹 페이지 또는 기타 콘텐츠에 숨겨진 지시를 삽입합니다. 목표는 채팅봇을 속여 민감한 정보를 보내거나 기타 악의적인 작업을 수행하게 하는 것입니다.

OpenAI은 샌드박싱, URL 필터, 모니터링 및 감사 로그를 포함하여 많은 수준의 사이버 보안 보호 장치를 갖추고 있습니다. 잠금 모드는 도난된 데이터가 유출되는 것을 방지하는 추가적인 보호층입니다.

OpenAI는 2025년 12월 블로그 게시물을 통해 모델 세대 간 캡처더플래그 보안 도전 과제 점수가 단 3개월 만에 27%에서 76%로 급증했다고 인정했습니다.

잠금 모드는 ChatGPT의 메모리 설정, 파일 업로드 기능, 대화 공유 옵션 또는 대화가 모델 학습에 사용되는지 여부를 변경하지 않습니다. 이러한 설정은 별도로 토글되며, 이 기능은 Codex에도 영향을 미치지 않습니다.

OpenAI는 서드파티 통합을 세 가지 위험 수준으로 분류합니다. 가장 높은 유출 위험을 가진 신뢰할 수 없는 앱의 쓰기 작업은 위험합니다. 동기화 커넥터는 데이터가 이미 OpenAI 시스템 내에 저장되어 있어 위험도가 낮습니다. 그러나 여전히 공격자가 노리는 민감한 정보의 원천이 될 수 있습니다.