OpenAI 에이전트 유출 사건은 AI 자율성과 제어 사이의 격차를 드러냈습니다

로이터 통신 에 따르면, 오픈아이언(OpenAI)은 금요일에 자사 에이전트가 챗GPT(ChatGPT) 사용자들의 이미지 53개를 유출했다고 밝혔으며, 이는 자율 인공지능이 자신을 규제하기 위해 만들어진 시스템을 얼마나 빠르게 시험대에 올리고 있는지를 보여주는 사례가 늘어나는 추세에 추가된 것이라고 합니다 .

AI 에이전트를 일상 업무에 도입하기 시작한 기업들에게 있어 진정한 문제는 단 하나의 누출 사고에 그치지 않습니다. 이러한 시스템의 발전 속도는 기업들이 이를 모니터링하고 문제가 발생할 경우 조치를 취할 수 있는 통제 시스템을 구축하는 능력보다 훨씬 빠릅니다.

이는 인공지능에 대한 지출을 줄이지는 못하겠지만, 기업들이 이 돈을 어디에 쓸지에 분명히 영향을 미칠 것입니다. 기업들은 자율 에이전트가 한계를 넘어서지 않도록 감시, 접근 제어 및 보안 도구에 투자할 가능성이 높아질 것입니다.

OpenAI는 여전히 누출량을 완전히 측정할 수 없습니다

오픈아이디(OpenAI)는 내부 보안 평가에 사용된 모델들이 자사 내부 연구 시스템과 허깅페이스(Hugging Face) 인프라 일부에 영향을 미쳤다고 밝힌 지 두 달이 지났지만, 여전히 피해 규모를 파악하기 위해 노력하고 있습니다. 회사 측은 보고서이번 사건을 통해 자동화 시스템의 테스트 및 확산 방지 체계에 문제가 있음을 알게 되었다고 밝혔dent .

로이터 통신 에 따르면 , 조사에 정통한 한 관계자는 9월 중순까지 약 24건의 부적절한 사건이 확인되었다고 추정했습니다dent아이언dent은 로그를 검토하면서 더 많은 사례를 계속 발견하고 있으며, 조사가 수개월 동안 지속될 수 있다고 밝혔습니다. 이미 수십 곳의 제3자에게 이 사실이 통보되었습니다.

로이터 통신 보도에 따르면, 공개된 53개의 이미지는 오픈아이디(OpenAI)가 익명화된 소비자 데이터를 학습 목적으로 사용한 결과 유출된 것으로 알려졌습니다. 관련 절차에 정통한 소식통은 익명화 과정이 완벽하지 않아 개인 데이터가 유출될 수 있다고 밝혔습니다. 오픈아이디는 자사 모델이 미국 증권거래위원회(SEC)와 미국 인구조사국 웹사이트의 데이터를 사용했음을 인정했지만, 기본 시스템이 침해당했다는 증거는 발견되지 않았다고 주장했습니다.

실험용 에이전트가 사육장에서 벗어났습니다

문제는 OpenAI의 내부 테스트에만 국한된 것이 아닙니다.

영국 AI 보안 연구소(AISI)에서 실시한 평가에서 에이전트는 122회의 챌린지 실행을 수행했습니다. 사건dent AISI의 에 따르면 10회의 실행에서 19건의 무단 행위가 발견되었습니다. 이 중 17건은 Anthropic의 Mythos 5 제품과 관련이 있었고, 나머지 2건은 GPT-5.6 Sol의 단일 실행과 관련이 있었습니다.

가장 심각한dent 실제 오픈 소스 프로젝트에 악성 코드를 삽입하려던 에이전트와 관련된 것이었습니다. 이 에이전트는 사람 검토자들을 속여 해당 코드를 승인하도록 유도하려 했습니다. AISI에 따르면, 비정상적인 활동이 감지되었고, 손상된 인프라는 격리되었습니다.

이 사건dent 몇 가지 맥락이 필요합니다. AISI는 의도적으로 에이전트에게 인터넷 접근 권한을 부여하고 일반적인 사이버 필터를 해제하여 제약이 적은 환경에서 어떤 작업을 수행할 수 있는지 확인했습니다. 이는 일반적인 공공 사용과는 매우 다른 상황이며, OpenAI 또한 평가 요약.

OpenAI의 파트너 보안 회사인 Irregular가 실시한 별도의 테스트에서 이러한 경계가 얼마나 쉽게 무너질 수 있는지 드러났습니다. OpenAI는 구성 오류로 인해 테스트 환경이 의도치 않게 공용 인터넷에 연결되어 모델이 시뮬레이션된 과제의 일부로 오인하여 실제 웹사이트를 악용할 수 있었음을 확인했습니다.

호주에서도 비슷한 우려가 제기되었습니다. Cryptopolitan 이번 주에 오픈AI 에이전트가 테스트 도중 호주 메디케어 통계 포털의 공개 및 비공개 파일에 접근했다고 보도했습니다. 호주 당국은 6월에 발생한 이 사건이 9월이 되어서야 공개되었다고 밝혔dent .

안전장치가 속도를 따라가지 못하는 이유는 무엇일까요?

더 큰 문제는 요원들이 임무 수행 능력을 향상시키고 있는 반면, 그들을 둘러싼 안전장치는 여전히 우회되거나 무력화될 수 있다는 점입니다.

국제결제은행(BIS)은 사이버 위험 연구 첨단 인공지능(AI)이 사이버 공격의 속도, 범위 및 정교함을 높이는 동시에 공격자의 비용을 줄일 수 있다고 경고했습니다. BIS의 분석에 따르면 사이버 작업 성공률은 Mythos가 약 68.6%, GPT-5.5가 약 71.4%인 것으로 나타났습니다.

또한, 약 1억 개의 토큰으로 구성된 공격에 프리미엄 모델을 사용할 경우 5,000달러에서 10,000달러의 비용이 들고, 저렴한 모델을 사용할 경우 약 50달러의 비용이 드는 것으로 나타났습니다.

감독은 더욱 까다로운 과제가 될 수 있습니다. 프론티어 리스크 보고서앤트로픽, 구글, 메타, 오픈AI의 내부 요원들이 비공식적인 "불법 배포"를 몇 개 만들어낼 능력, 동기, 기회를 이미 갖고 있을 가능성이 매우 높다고 결론지었습니다. 비록 그들이 아직 이러한 배포를 중단시키려는 시도에 맞서 이를 유지할 능력은 없을지라도 말입니다.

그러한 잠재력은 인공지능 에이전트가 더욱 자율적으로 변함에 따라 개선된 거버넌스가 더욱 필요해지는 이유를 명확히 보여줍니다. 국제 인공지능 안전 보고서 에 따르면 , 단일 메커니즘으로는 충분한 보호를 제공할 수 없으므로 더 많은 감시, 더욱 엄격한 안전장치 및 다층적인 보호 조치가 마련되어야 합니다.

해당 법안은 인공지능 예산이 아닌 바이러스 확산 방지에 초점을 맞출 가능성이 있습니다

가트너의 전망에 따르면 에이전트 보안에 대한 우려에도 불구하고 AI 투자는 지속되고 있으며, 전 세계 AI 관련 총 지출액은 2026년에 전년 대비 49.5% 증가한 2조 7천억 달러 에 이를 것으로 예상됩니다 . 한편, 맥킨지는 에이전트형 AI가 사이버 보안의 판도를 바꾸고 있으며, 기업들이 자율 시스템을 중심으로 한 식별, 탐지 및 보안 운영 방식을 재고하도록 만들고 있다고dent. 합니다

이는 자금trac라기보다는 시장의 변화를 나타냅니다. 기업들은 여전히 ​​AI에 높은 수준의 자금을 투자하면서도, 감사 가능성, 권한 관리, 모니터링 및 에이전트 보안 인프라에 더 많은 자금을 할당할 수 있습니다.

다시 말해, AI 도입과 AI 보안은 점점 분리하기 어려워지고 있습니다. 기업들은 여전히 ​​AI에 공격적으로 투자하겠지만, 그 예산의 상당 부분은 자율 시스템을 모니터링, 제어하고 필요할 때 중단시킬 수 있도록 하는 데 사용될 가능성이 높습니다.