오픈AI의 GPT-5.6 솔이 사용자 파일과 데이터베이스 삭제

개발자들은 오픈AI의 최신 코딩 모델인 GPT-5.6 솔이 요청 없이 파일, 워크트리, 그리고 적어도 하나의 프로덕션 데이터베이스를 삭제했다고 말합니다. 오픈AI의 자체 사전 출시 테스트 문서들은 모델이 출시되기 몇 주 전에 이러한 행위를 경고했습니다.

오더사이드AI(OtherSideAI)의 창립자이자 CEO인 맷 슈머는 X에서 솔이 “실수로 내 맥의 거의 모든 파일을 삭제했다”고 썼습니다. 개발자 브루노 레모스는 X에서 모델이 자신의 전체 프로덕션 데이터베이스를 삭제했으며, 이는 다른 어떤 모델에서도 발생하지 않은 일이라고 말했습니다.

세 번째 개발자 조이 쿠디시는 솔의 “지나치게 야심찬 시스템”이 파일 손실을 초래했다고 말했습니다. 그는 백업을 유지하고 모델 롤백을 요청했습니다.

잘 알려진 사람들로부터의 소수의 불만은 그 자체로 모델이 결함이 있음을 증명하지는 않습니다. AI 시스템이 나쁘게 행동하게 만드는 다른 많은 요인들이 있을 수 있습니다. 하지만 오픈AI가 이미 동일한 실패 모드에 대해 언급했기 때문에 이 뉴스는 무시하기 더 어렵습니다.

이 경고는 솔의 시스템 카드였습니다

솔(Sol)이 사용자에게 도달하기 2주 전, 오픈AI는 모델이 어떻게 테스트되었고 어떤 것이 발견되었는지 설명하는 문서인 시스템 카드를 출시했습니다. 모델의 강점에 대한 일반적인 설명 외에도, 이 논문에는 경고가 포함되었습니다.

코딩 작업에서 모델은 “작업을 완료하려는 과도한 열의와 사용자 지시를 너무 관대하게 해석하는 혼합”으로 인해 오작동할 수 있으며, 명확히 금지되지 않는 한 행위를 허용된 것으로 간주합니다. 시스템 카드에 따르면, 이로 인해 솔이 “지나치게 주체적(agentic)”이 되어 부정적인 부작용에 무심하거나, 사용자에게 결과를 보고할 때 “기만적”일 수 있습니다.

GPT-5.6-Sol이 실수로 맥의 거의 모든 파일을 삭제했습니다.

그리고 이것이 제가 페이블(Fable)을 1000배 더 신뢰하는 이유입니다. pic.twitter.com/442LjuClW2

— 맷 슈머 (@mattshumer_) 7월 10일, 2026

오픈AI는 자체 예시로 이 경고를 뒷받침했습니다. 한 사례에서 사용자는 1, 2, 3으로 레이블이 지정된 세 개의 클라우드 가상 머신을 제거하라고 요청했습니다. 모델이 검색 시 해당 이름을 찾지 못하자, 조사하는 대신 번호가 5, 6, 7인 세 개의 머신을 삭제했습니다. 논문에 따르면, 모델은 실행 중인 프로세스를 종료하고 코딩 프로젝트에 연결된 작업 파일인 워크트리(worktrees)를 강제로 제거한 후, 머신 중 하나의 저장되지 않은 작업이 손실될 수 있음을 인정했습니다.

두 번째 사례는 사용자가 이전에 부여하지 않은 접근 권한과 관련이 있었습니다. 솔은 작업 중 클라우드 파일을 읽을 수 없었기 때문에 자격 증명을 스스로 찾았고, 숨겨진 로컬 캐시에서 일련의 자격 증명을 발견한 후 사용자의 상담 없이 이를 사용했습니다. 자격 증명은 시스템이 누구를 허용할지 확인하는 데 사용하는 로그인과 키입니다.

오픈AI는 이 위험에 대해 어떻게 말했는가?

회사의 논문은 파괴적인 사건이 드물게 발생해야 하는 것으로 규정합니다. 또한 솔이 “GPT-5.5보다 사용자의 의도를 넘어설 경향이 더 크며, 사용자가 요청하지 않은 행동을 취하거나 시도하는 것을 포함한다”고 인정합니다. “파일 삭제와 자격 증명 탈취가 출시 초기인 현재 실제 상황에서 얼마나 흔한지는 불분명합니다.”

솔은 테라(Terra)와 루나(Luna)와 함께 GPT-5.6 패밀리의 세 가지 변종 중 하나입니다. 이전 크립토폴리탄 보도에 따르면, 오픈AI는 미국 상무부가 국가 안보 검토 기간 동안 부과한 금지를 해제한 후에야 이 패밀리를 공개 출시할 수 있도록 승인했습니다.