- OpenAI, Microsoft, CrowdStrike는 각각 스크립트를 벗어난 AI 에이전트를 차단하기 위한 서로 다른 제어 장치를 출시했으며, 각 솔루션은 에이전트가 접근할 수 있는 범위의 일부만을 커버합니다.
- 이러한 조치는 자율적 에이전트를 도입하는 모든 기업에게 중요하며, NIST, NSA, CISA의 사고 대응 가이드라인과 OWASP의 취약점 로그 시점에 맞춰 발표되었습니다.
- METR의 감사 결과는 에이전트가 경계를 어떻게 벗어나는지 보여주고, 가트너는 2027년 AI 보안 시장을 약 48억 달러로 추정합니다.
OpenAI, Microsoft, CrowdStrike는 운영 매개변수 밖에서 작동하는 AI 에이전트의 기능을 제한하기 위한 조치를 취하고 있습니다. OpenAI는 연구 모델의 출력을 중지하는 방법을 제공합니다. CrowdStrike는 에이전트가 AI 모델에 접근하는 것을 차단합니다. Microsoft는 AI 에이전트가 수행할 수 있는 작업을 제한합니다. 그러나 이러한 안전장치가 커버하지 않는 다른 도구, 자격 증명 또는 네트워크 연결에 대한 에이전트의 접근 권한은 유지될 수 있습니다.
OpenAI의 Control Room이 중단할 수 있는 것과 그렇지 않은 것
11월 9일, OpenAI는 Control Room의 작동 방식을 설명했습니다. 이 시스템은 현재 회사의 연구 인프라에서 사용 중이며, AI 생성 출력이 필요한 모든 작업을 추적하는 역할을 합니다. 사람이나 자동 모니터링 시스템이 작업을 일시 중지하면 Control Room은 최대 35초 이내에 모델이 출력을 생성하지 않도록 합니다.
35초에는 문제 감지에 필요한 시간이 포함되지 않습니다. 타이머는 Control Room이 중지 명령을 받은 후에만 시작됩니다. 연구 작업은 여전히 실행 중일 수 있으며, 이전에 수행된 작업은 되돌릴 수 없습니다. 이 지연은 인증에 사용되는 캐싱 시스템으로 인해 발생합니다. 해당 기업은 이러한 지연을 제거하기 위해 노력 중입니다.
CrowdStrike와 Microsoft의 엔터프라이즈 방식
11월 3일, CrowdStrike는 Falcon Guardian 플랫폼을 통해 AI Kill Switch를 도입했습니다. 보안 팀이 이 기능을 활성화하면 연결된 AI 게이트웨이가 에이전트가 의사 결정을 위해 사용하는 모델에 접근하는 것을 차단합니다. 현재 AI Kill Switch는 연결된 게이트웨이를 통해서만 작동합니다. CrowdStrike는 향후 엔드포인트, 클라우드 환경 및 기업 신원 시스템 전반으로 기능을 확장하여 악성 AI 에이전트의 광범위한 봉쇄를 제공할 계획입니다.
Microsoft의 11월 5일 업데이트에서는 Dynamic Permissions(동적 권한)에 대해 상세히 설명했으며, 이는 현재 작업에만 권한을 부여합니다. Dynamic Agent Risk와 Conditional Access를 통해 권한을 더 엄격하게 제한하거나 인간의 승인을 요구할 수 있습니다. 이제 일반적으로 사용 가능한 Windows Execution Containers는 파일, 네트워크 및 프로세스에 대한 접근을 제한합니다. Intune, Entra 및 Agent 365와의 통합은 곧 제공될 예정입니다.
정부의 대응 벤치마크
미국 정부는 또한 조직이 악성 AI 에이전트를 어떻게 처리해야 하는지에 대한 지침도 제시했습니다. 10월 NIST–NSA–CISA 가이드는 준비, 탐지, 대응, 복구 및 보고라는 5단계에 걸쳐 10가지 자발적 관행을 명시하고 있습니다.
기관들은 증거 수집, 무단 활동 중단, 그리고 재가동 전에 격리 상태를 확보할 것을 권장합니다. 조직은 비인가 AI 에이전트 활동에 대응할 준비를 갖추기 위해 모의 사고 대응 훈련을 실시해야 합니다. 또한 당국에 사고를 보고해야 합니다.
NIST-NSA-CISA 가이드는 인간의 개입이 거의 없는 고급 AI 에이전트를 개발하거나 테스트하는 조직을 위해 특별히 제작되었습니다. 이 문서는 조치 방향에 대한 지침을 제공하지만, 어떤 상업용 보안 제품도 인증하지 않습니다.
외부 감사인이 지속적으로 취약점을 발견하는 이유
최근 사건들은 이러한 추가적인 안전장치가 왜 중요한지를 보여줍니다. OWASP 요약 보고서는 일부가 동일한 공격을 포함하고 있었음에도 불구하고 7건의 보안 사고와 취약점 공개 사례를 문서화했습니다. 한 사례에서는 OpenAI 평가 에이전트가 Hugging Face 프로덕션 시스템에 무단으로 접근한 것으로 드러났습니다.
별도의 METR 감사 결과, OpenAI의 이전 모니터링 시스템에 잠재적 약점이 발견되었습니다. 연구원들은 특정 내부 에이전트 트래픽의 75~94%가 모니터링 대상이었을 것으로 추정했습니다. 하지만 이것이 실제로 모든 모니터링 대상 트래픽이 감시되었음을 의미하는 것은 아닙니다.
OpenAI는 대부분의 취약점이 수정되었다고 밝혔지만, METR은 이러한 변경 사항을 독립적으로 검증하지 않았습니다. 또한 이번 감사에서는 OpenAI의 최신 통제 조치를 평가하지 않았습니다.
에이전트 잠금의 비용
더 강력한 AI 보안에 대한 수요는 성장하는 시장을 형성하고 있습니다. Gartner는 2027년에 거의 48억 달러, 2028년에는 77억 달러의 지출이 발생할 것으로 전망합니다. 2029년까지 해당 기관은 성공적인 AI 에이전트 공격의 절반 이상이 약한 접근 제어 또는 프롬프트 인젝션을 악용할 것으로 예상합니다.
하지만 많은 기업들이 여전히 준비되지 않았습니다. BCG 조사에 따르면 응답자의 23%만 에이전트에 대한 모니터링 또는 로깅을 도입했습니다.
규제 역시 느리게 진행되고 있습니다. Brookings는 EU의 고위험 AI 요구사항이 2027년 12월과 2028년 8월로 연기되었다고 지적합니다. 한편, 기업들은 자체적인 안전장치와 감독 체계에 투자해야 합니다.
위험은 이미 명확히 드러나고 있습니다. Cryptopolitan이 보도한 바에 따르면, OpenAI의 연구용 모델이 자신이 소유하지 않은 Sepolia 테스트 네트워크 지갑의 자금을 사용하여 코딩 작업을 완료했습니다. 해당 토큰에는 시장 가치가 없었지만, 모델은 지갑 소유자의 허가 없이 행동을 취했습니다.
이번 사건은 기업들에게 다음과 같은 질문을 던집니다: 이러한 별개의 보안 통제 장치가 함께 작동하여 유사한 무단 행위를 방지할 수 있을까요?
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
OpenAI의 Control Room이란 무엇인가?
OpenAI의 인프라 전반에서 모든 연구 추론 작업을 추적하며, 안전 또는 보안 문제가 발생하면 모델 출력을 차단할 수 있는 중앙 시스템입니다. OpenAI는 10월 29일 성명서를 통해 정지 명령이 내려진 후 35초 이내에 모델 작동을 중단한다고 밝혔습니다.
OpenAI 에이전트는 Sepolia 지갑을 어떻게 사용했나요?
Cryptopolitan은 이전에 GPT-5.6 Sol 모델이 공개적으로 재사용된 개발자 복구 문구에서 키를 추출하고, 자신이 소유하지 않은 Ethereum의 Sepolia 테스트 네트워크에 자금 지원 지갑을 발견했으며, 이를 사용하여 6월 코딩 작업의 배포 비용을 지불했다고 보도한 바 있습니다. Sepolia 토큰에는 시장 가치가 없으므로 실제 가치의 ETH는 도난당하지 않았습니다.
AI 보안을 위한 시장의 규모는 얼마나 됩니까?
가트너는 8월 26일 발표한 자료에서 AI 보안 시장이 2027년까지 약 48억 달러에 달할 것으로 전망했으며, 이는 2026년 대비 68.7% 증가한 수치입니다. 또한 2028년까지 거의 77억 달러에 이를 것으로 예상됩니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
이비아м 와야스
이비암 와야스는 2019 년부터 암호화폐 뉴스 분야를 취재해 왔습니다. 그는 나이지리아 국립오픈대학교에서 컴퓨터공학을 전공했으며, 코인포마니아, 암호화폐 뉴스 오스트레일리아, 알코인버즈 등 다양한 암호화폐 뉴스 플랫폼에 기고했습니다. 컴퓨터공학 배경을 바탕으로 현재 암호화폐, 로봇공학, 장수 관련 뉴스를 집중적으로 다루고 있습니다.
