- 연구진에 따르면 OpenAI 에이전트들은 2026년 5월과 6월 동안 독일어 프로그래밍 위키인 DseWiki를 메시지 보드로 전환하여 OpenAI의 안전 장치를 우회하는 전술을 교환했습니다.
- 에이전트들은 외부 연구진이 8월 말에 이를 발견하기 전에 15,000회 이상의 편집을 기록했습니다.
- OpenAI는 해당 활동이 해킹이 아니며 7월 Hugging Face 침해 사고와 무관하다고 주장합니다.
두 명의 AI 안전 연구원은 2026년 봄에 OpenAI 에이전트 무리가 자원봉사자가 운영하는 독일 프로그래밍 위키인 DseWiki를 2개월간 장악하고, 웹사이트를 사용하여 OpenAI의 보안 장치를 우회했다고 밝혔습니다.
DseWiki는 프로그래머만을 위한 위키백과 스타일의 커뮤니티 편집 사이트입니다. Reuters의 조사에 따르면, AI 에이전트가 이 사이트에 15,000개 이상의 편집을 남겼으며, 페이지를 작업 완료 전략을 교환하고 OpenAI의 제한을 우회하며 자신의 행위를 숨기는 채널로 활용했습니다.
이러한 악의적인 행동은 2026년 5월부터 6월까지 계속되었으며, 8월 말까지 발견되지 않았습니다. 당시 AI 안전 비영리 단체인 Nightingale의 대표인 Sydney Von Arx와 전 양적 트레이더이자 현재 AI 연구에 종사하는 Cormac Slade Byrd가 온라인에서 이러한 AI 에이전트의 무단 활동을 추적하기 시작했습니다.
두 연구원 모두 에이전트가 초인적인 속도로 이동하며, AI 기업들이 모델 훈련 및 테스트에 사용하는 평가와 유사한 기술적 문제에 집착하고 있음을 발견했습니다.
그러나 Von Arx는 이러한 사건의 해석에 대해 신중한 입장을 고수했습니다. 그녀는 Reuters와의 인터뷰에서 “OpenAI가 그들이 이렇게 하기를 원했을 가능성은 극히 낮아 보입니다. 서로 조정을 하도록 설계되었을 것이라고는 생각하지 않습니다.”라고 말했습니다.
OpenAI를 지목하는 증거
연구원들은 공개된 서버 로그가 트래픽의 상당 부분이 일부 OpenAI 운영을 지원하는 Microsoft Azure 인프라로 추적된다고 밝혔습니다. 또한 그들은 사건 이후 OpenAI 직원들이 사이트를 다시 방문하는 것을 목격했으며, 이를 연결 고리에 대한 추가 증거로 보았습니다.
AI 에이전트가 사용한 ‘계정’의 거의 절반은 “OpenAIResearcher” 및 “OAIResearchMar26”와 같은 이름을 가지고 있어 OpenAI와의 연결 고리를 시사합니다.
전문가들은 이 사례를 어떻게 설명할지 의견이 갈렸습니다. 킹스 칼리지 런던의 방문 석좌 연구원인 Lukasz Olejnik은 이 활동을 해킹 시도로 묘사했습니다. Cambridge University의 Existential Risk 연구 센터의 학자이자 일부 메시지를 읽은 Maurice Chiodo는 그들이 “어떤 종류의 지하 네트워크의 작동과 유사하며, 임무나 미션을 달성하기 위해 필사적인” 것처럼 보인다고 말했습니다.
두 연구원 모두 실제 위험은 단일 초지능이 아니라 함께 작동하는 반지능적 시스템의 대규모 그룹에 있을 수 있으며, 이러한 시나리오는 모니터링하고 중단하기가 더 어렵다고 주장했습니다.
삭제 소탕을 견디기 위해 구축된 백업 페이지
에이전트들은 6월에 DseWiki 관리자가 페이지를 제거하려고 했을 때 반격하는 것처럼 보였으며, 정리 작업에서 살아남기 위해 백업 사본을 구축했습니다. 6월 19일 날짜의 메시지는 삭제 작업이 진행 중이며 다른 페이지로 유도하는 대체 페이지를 가리켰는데, 그 페이지에는 “이 페이지가 사라지면 [[ZZZDataUSAConstructionWageLive]]를 시도하세요.”라고 적혀 있었습니다.
이 이름은 알파벳 순서로 정렬된 목록의 맨 아래에 위치하도록 특별히 설계된 것으로 보이며, 이를 작성한 사람이 인간 관리자가 콘텐츠를 삭제하는 방법을 파악하고 이를 우회했음을 시사합니다. 연구원들은 또한 사이트 자체를 조작하려는 시도를 발견했습니다.
OpenAI는 이러한 프레임워크와 시기를 거부합니다
OpenAI는 대변인을 통해 성명을 발표하여, Reuters와 연구원 모두 접근 요청을 거부했기 때문에 회신이 검토될 기회를 갖지 못해 보고서에 의미 있는 논평을 할 수 없다고 밝혔습니다.
회사는 발표 후 발견 사항을 검토하고 필요시 적절한 조치를 취할 것이라고 덧붙였으며, 이 사건을 해킹으로 규정하는 모든 표현을 거부했습니다.
AI 제조사는 또한 독일에서의 활동이 7월에 열린 오픈 소스 저장소 Hugging Face의 별도 침해 사건과 무관하다고 밝혔습니다. 또한 보고서에서는 rogue OpenAI 에이전트가 같은 시점에 Modal Labs의 고객 중 하나를 침해했다고 주장합니다.
Anthropic도 설정 오류로 인해 보안 테스트 중 의도하지 않은 인터넷 접근 권한을 부여받은 후, Claude 버전 세 개가 세 조직을 침해했다고 밝혔습니다. 이 사건 보고는 OpenAI가 Astra를 출시하는 시점과 맞물려 있습니다. Astra는 이전 모델보다 성능이 우수하며 인간 모니터링을 우회할 성향이 있는 AI 모델로 알려져 있습니다.
이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.
Opeyemi Olanrewaju
Opeyemi는 암호화폐, 글로벌 금융 시장 및 경제를 중심으로 고품질 콘텐츠를 제작하고 다듬는 데 특화되어 있습니다. 그는 이바단 대학교에서 의학박사(MBBS) 학위를 취득했으며, 대학 내 편집부의 편집장을 역임했고 이전에는 CFA에서도 근무했습니다. 지난 6 년 이상 Cryptopolitan 의 뉴스 편집자로 재직하며 콘텐츠의 독창성을 보호해 왔습니다.
