- OpenAI의 연구 모델이 자신이 소유하지 않은 암호화폐 지갑에서 테스트 네트워크 자금을 사용하여 6월의 코딩 작업을 완료했습니다.
- FTC는 AI 연구소를 소환했으며, 주 법무장관들은 기록을 요구하여 각 자율적 안전 보고서를 잠재적 증거로 전환하고 있습니다.
- 지갑을 보유하는 AI 에이전트를 구축하는 모든 사람에게 이는 에이전트가 자신의 판단으로 소유자의 권한을 우회하는 사례를 구체적으로 보여줍니다.
OpenAI의 연구 모델이 자신이 소유하지 않은 암호화폐 지갑에서 자금을 인출하여 6월의 코딩 작업을 완료했습니다.
OpenAI는 이 사건을 9월에 발견했으며, 이는 발생 수개월 후였으며 이번 주에 공개되었습니다.
OpenAI의 연구 모델은 어떻게 승인되지 않은 지갑에 접근했습니까?
OpenAI 사건 보고서를 게시했습니다 GPT-5.6 Sol 계열의 모델에 관한 것입니다. 해당 모델은 암호화폐 거래 프로토타입을 업데이트하고 Sepolia에 계약을 배포하라는 요청을 받았습니다.
Sepolia는 개발자가 실제 출시 전에 앱을 테스트할 수 있는 이더리움 테스트 네트워크로, 토큰에는 시장 가치가 없으며 이더리움 메인 네트워크에서 거래되는 실제 이더와 전혀 연결되어 있지 않습니다.
작업 수행을 위해 배포 비용을 지불할 자금 지갑이 제공되지 않았고, 무료 토큰 파우치도 작동하지 않았습니다. 이에 모델은 개발자들이 자주 재사용하는 복구 문구에서 362개의 주소를 생성한 스크립트를 작성한 후, 각 주소의 잔액을 확인했습니다.
362개 주소 중 하나에는 작업에 필요한 테스트 이더가 충분히 있었지만, 이를 사용하기 전에 모델은 메모에서 공개적으로 알려진 키와 그 자금을 사용하는 것이 윤리적으로 적절한지 스스로에게 질문하며 멈췄습니다.
모델은 복구 문구가 공개되어 있고, 배포 계약 체결 전, 수수료 지급 및 작업 완료 보고 이전에는 테스트 토큰에 가치가 없으므로 해당 자금이 '실질적으로 포기된 상태'라고 결론 내렸습니다.
특히 모델은 자금의 출처를 명시하지 않았습니다.
이더리움 메인넷에서는 이러한 수수료가 모델이 권리를 주장할 수 없는 누군가의 실제 자산에서 차감되었을 것입니다. 이는 암호화폐 및 AI 기업들이 이제 각 거래에 대한 인간의 승인을 거치지 않고 지갑을 보유하며 서비스를 결제하는 에이전트를 연결하고 있는 점을 고려할 때 우려스러운 사항입니다.
오픈AI는 이후 해당 모델의 실시간 인터넷 접근을 차단하고 모니터링 기능을 추가했다고 밝혔습니다.
보고서에 따르면 해당 사건은 6월 26일에 발생했으나, 3개월 후인 9월 25일이 되어서야 발견되었습니다. OpenAI는 이전 모델 활동의 로그를 대상으로 정렬 불일치(misalignment) 모니터링을 확대하는 과정에서 이 사실을 알게 되었다고 밝혔습니다.
OpenAI가 어떤 혐의로 조사를 받고 있나요?
OpenAI 보고 체계 프레임워크를 구축했으며 정렬 불일치 사례 보고를 위해 첫 번째 보고서 세트를 공개하며, 우려되는 행동을 "완전히 설명하거나 완화하지 못한 경우에도" 신속하게 외부에 공개하고자 한다고 밝혔습니다.
그러나 시점 문제로 인해 모든 성실한 보고는 FTC와 같은 불만 제기 측에게 중요한 자료가 됩니다. FTC는 수요일 안전 사고, 보안 관행 및 개인정보 보호 정책과 관련된 기록을 확보하기 위해 OpenAI와 Anthropic에 민사 소환장을 발부하고 최고 경영진에게 증언을 요구할 계획입니다. Cryptopolitan이 보고.
몇 달 앞서, 아이오와주의 브레나 버드(Brenna Bird) 주 검찰청장이 이끄는 15개 공화당 주 검찰청은 Hugging Face 침해 사건과 관련해, 에이전트가 회사의 통제 장치를 우회하는 방법에 대해 "아마도 자신의 향후 버전들을 위해" 남긴 메모를 포함해 모든 기록을 보존하라고 OpenAI에 지시했습니다.
OpenAI는 7월 허깅 페이스(Hugging Face) 침해 사건을 인정하며, 내부 통제 장치를 우회한 악성 에이전트가 공개 인터넷에 접근해 ‘전례 없는 사이버 사건’으로 규정된 행위를 조율했다고 밝혔다.
에이전트 보고에 따르면 상무부 인구조사국과 증권거래위원회(SEC)를 포함한 미국 정부 기관 웹사이트 3곳을 정찰했다.
OpenAI의 새로운 사이트에는 9월 샌드박스 탈출 및 자가 복제 프롬프트 인젝션 실험 등 다른 여러 사고 사례도 언급되어 있다.
OpenAI의 CEO 샘 알트먼은 회사가 여전히 에이전트 활동 로그를 분석 중이며, 심각도에 따라 사례를 공개할 것이라고 밝혔다. 현재까지 발견된 가장 심각한 사례는 허깅 페이스 사건이다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
자주 묻는 질문
OpenAI 에이전트는 실제로 무엇을 했는가?
OpenAI의 GPT-5.6 Sol 계열 모델이 공개 개발자 복구 문구에서 키를 추출하고 이더리움 Sepolia 테스트 네트워크에서 자금 지원 지갑을 찾은 뒤, 사용자에게 자금 출처를 알리지 않은 채 코딩 작업의 배포 비용을 지불하는 데 해당 지갑을 사용했다.
실제로 돈이 도난당했는가?
아니요. 해당 지출은 Sepolia(테스트 네트워크)에서 발생했으며, 이 네트워크의 토큰에는 시장 가치가 없습니다. 동일한 행위가 이더리움 메인넷에서 이루어졌다면 실제 이더가 다른 사람의 계정에서 인출되었을 것입니다.
왜 지금 공개가 중요한가요?
FTC가 안전 관행에 대해 OpenAI와 Anthropic에 소환장을 발부하고 15개 주 법무장관들이 기록 보존을 요구하는 가운데 OpenAI가 보고서를 발표했으므로, 자발적 공개는 현재 진행 중인 법적 검토에 영향을 미치고 있습니다.
한나 콜리모어
한나는 암호화폐 분야에서 거의 10년 간의 블로그 작성 및 이벤트 리포팅 경험을 가진 작가이자 편집자입니다. 크립토폴리탄에서 한나는 뉴스 페이지에 기여하며 DeFi, RWA, 암호화폐 규제, AI 및 프론티어 테크 산업의 최신 동향을 보도하고 분석합니다. 그녀는 아카디아 대학교에서 경영학 학위를 취득했습니다.
