OpenAI, ChatGPT 데이터 유출 차단을 위해 락다운 모드 출시

OpenAI는 개인 및 기업 계정에 '잠금 모드'를 순차적으로 배포하기 시작했습니다. 이는 ChatGPT가 웹 및 기타 외부 서비스에 연결하는 것을 차단하는 선택적 보안 설정입니다. 이 기능의 목표는 민감한 데이터를 다루는 사용자가 프롬프트 주입 공격을 통해 정보가trac될 위험을 줄이는 데 도움을 주는 것입니다.

잠금 모드는 외부 데이터 채널을 차단합니다

잠금 모드는 실시간 웹 브라우징, 심층 연구, 에이전트 모드 및 데이터 분석을 위한 파일 다운로드를 중지합니다. 이 기능은 외부 데이터 채널이 AI 모델.

검색 결과는 캐시된 콘텐츠로 제한되며, 해당 콘텐츠는 불완전하거나 오래되었을 수 있습니다. 웹에서 이미지를 가져오는 기능도 중단됩니다. 하지만 사용자는 여전히 자신의 이미지를 업로드하고 이미지 생성 기능을 사용할 수 있습니다.

제한 사항 목록은 구체적입니다. 우선, Canvas 코드는 네트워크 접근 권한을 잃게 됩니다. 또한, 금융 도구 및 쇼핑 에이전트 기능을 포함한 특정 연결 환경이 완전히 작동을 멈춥니다.

잠금 모드는 ChatGPT가 처리하는 콘텐츠에 프롬프트 주입이 나타나는 것을 막지는 못합니다. 캐시된 웹 페이지나 업로드된 파일에 숨겨진 악성 명령은 여전히 ​​모델의 응답 방식을 변경할 수 있습니다. 잠금 모드는 기본적으로 유출된 데이터가 OpenAI 시스템을 벗어나 공격자에게 도달하는 마지막 단계를 차단하는 것입니다.

OpenAI는 문서에서 "락다운 모드는 모든 사람을 위한 것이 아닙니다."라고 명시하고 있습니다. "이 모드는 민감한 데이터를 다루고 신속한 데이터 주입과 관련된 데이터 유출 위험으로부터 더욱 엄격한 보호를 원하는 개인 및 조직을 위해 설계되었습니다."

OpenAI의 잠금 모드는 누가 사용할 수 있나요?

무료, Go, Plus, Pro 개인 계정과 ChatGPT 비즈니스 계정 모두 이 기능을 이용할 수 있습니다. 기능은 단계적으로 배포되므로 설정에서 해당 기능이 보이지 않으면 기다려야 합니다.

기업 계정 관리자는 사용자 지정 잠금 모드 역할을 생성하고 특정 구성원 또는 그룹에 할당할 수 있습니다.

사용자는 고급 보안 설정에서 해당 기능을 켜고 끌 수 있습니다. 잠금 모드는 전체 계정에 대해 비활성화하지 않고도 개별 채팅에 대해 해제할 수 있습니다.

잠금 모드와 개발자 모드는 동시에 실행할 수 없습니다. 한matic활성화하면 다른 기능은 비활성화됩니다.

OpenAI는 프롬프트 주입 공격 문제를 해결하려고 노력하고 있습니다

프롬프트 주입은 AI 제품이 직면한 가장 어려운 보안 문제 중 하나입니다. 공격자는 챗봇이 처리하는 문서, 웹 페이지 또는 기타 콘텐츠에 숨겨진 명령어를 삽입합니다. 목표는 챗봇을 속여 민감한 정보를 전송하거나 다른 악의적인 행동을 수행하도록 하는 것입니다.

OpenAI는 샌드박싱, URL 필터, 모니터링, 감사 로그 등 다양한 계층의 사이버 보안 보호 기능을 갖추고 있습니다. 잠금 모드는 도난당한 데이터가 유출되는 것을 막는 추가적인 보호 계층입니다.

OpenAI는 2025년 12월 블로그 게시물에서 Capture-the-Flag 보안 문제 해결 점수가 불과 3개월 만에 모델 세대를 거치면서 27%에서 76%로 급증했다고 밝혔습니다.

잠금 모드는 ChatGPT의 메모리 설정, 파일 업로드 기능, 대화 공유 옵션 또는 모델 학습에 대화를 사용할지 여부를 변경하지 않습니다. 이러한 설정은 별도의 토글로 유지되며, 이 기능은 Codex에도 영향을 미치지 않습니다.

OpenAI는 타사 통합을 세 가지 위험 수준으로 분류합니다. 데이터 유출 위험이 가장 높은 신뢰할 수 없는 앱에 대해서는 별도의 조치를 취하십시오. 동기화 커넥터는 데이터가 이미 OpenAI 시스템 내에 저장되어 있으므로 위험도가 낮습니다. 그러나 이러한 커넥터 또한 공격자가 노리는 민감한 정보의 출처가 될 수 있습니다.