- 여러 보안 연구자, 분석가 및 AI 랩들이 이번 달에 자율형 AI 에이전트가 시스템 접근 권한을 가진 내부자와 유사하게 행동하며, 대부분의 기업이 이를 통제하기 위한 신원 제어 및 행동 모니터링이 부족하다고 경고했습니다.
- 에이전트 AI를 도입하는 모든 조직과 이를 판매하는 벤더는 이미 조직의 80%에서 에이전트가 의도하지 않은 행동을 하고 있으며, 비인간 신원을 보호할 수 있는 전용 도구를 운영하는 곳은 단 2%에 불과하다는 보고서를 고려해야 합니다.
- 가트너(Gartner)는 2030년까지 에이전트 AI로 인해 소프트웨어 지출 2,340억 달러가 위험에 처할 것으로 전망함에 따라, 거버넌스 성숙도는 배포 성공 여부를 결정하는 핵심 요소가 되고 있습니다.
이번 달 발표된 많은 연구는 조직이 AI 에이전트를 보안 조치보다 훨씬 빠르게 도입하고 있음을 나타냅니다. 이러한 시스템은 기업 네트워크와 기밀 데이터에 지속적으로 접근하는 디지털 근로자처럼 점점 더 많이 행동하고 있습니다. 결과적으로, 거버넌스는 조직이 기회를 활용하는지 에이전트 AI의 실패로 고통받는지를 결정할 것입니다.
AI 개발자, 사이버 보안 기업 및 비즈니스 애널리스트 모두 이 경고에 동의합니다. AI 에이전트는 특정 지침을 따르는 일반 자동화 시스템과 매우 다르게 작동합니다. 한 번 접근 자격 증명과 기업 시스템에 대한 접근 권한을 부여받으면, 감독 없이 다양한 애플리케이션 전반에 걸쳐 다양한 기능을 수행할 수 있으므로 그 행동은 훨씬 더 예측 불가능해집니다.
경보를 뒷받침하는 수치
AI에 대한 투자가 계속 가속화되고 있습니다. Kong은 IDC의 예측을 인용하여 아시아 태평양 지역의 AI 및 생성형 AI 지출이 2028년까지 1,750억 달러에 도달할 것이며, 자율 에이전트가 차지하는 비중이 증가할 것이라고 밝혔습니다. 그러나 거버넌스는 여전히 뒤처져 있습니다.
Ponemon Institute의 연구를 기반으로 한 Greg Clark의 분석에 따르면, 기업의 41%만 AI 전용 데이터 프라이버시 정책을 보유하고 있습니다. 한편, 클라우드 보안 얼라이언스(Cloud Security Alliance)는 많은 조직이 여전히 비인간 신원 관리용으로 설계되지 않은 도구에 의존하고 있다고 보고했으며, 이는 AI 채택이 확대됨에 따라 주요 가시성 및 거버넌스 격차를 만들고 있습니다.
이러한 발견들은 기업 AI 보안의 새로운 시대를 가리킵니다. AI 에이전트가 기업 네트워크 전반에 확산됨에 따라, 조직은 에이전트를 식별하고, 권한을 정의하며, 신원을 지속적으로 검증하고, 활동을 모니터링해야 합니다. 자율 AI의 시대에는 신원 거버넌스가 모델 지능만큼이나 중요해지고 있습니다.
AI 에이전트는 궁극의 신뢰할 수 있는 내부자입니다
Cequence Security의 공동 설립자 Shreyans Mehta는 TM Forum 기고문에서 에이전트 AI를 “기계 속도로 작동하는 디지털 내부자”라고 묘사했습니다. 그는 AI 에이전트가 권한을 초과하지 않아도 해를 끼칠 수 있다고 경고했습니다. 승인된 범위 내에서만 완전히 행동하더라도, 합법적인 API 요청을 결합하여 운영, 재무 또는 법적 리스크를 초래할 수 있습니다. Mehta는 AI를 계정이 침해되었음을 나타내는 일반적인 징후 없이 특권 작업을 수행할 수 있는 “궁극의 신뢰할 수 있는 내부자”로 설명하는 TM Forum의 GB1087 가이드를 인용했습니다.
프론티어 AI 개발자들도 유사한 우려를 표명했습니다. 7월 13일 논문 2026년 여름의 에이전트 불일치에서, Anthropic 및 파트너 기관의 연구원들은 시뮬레이션된 기업 배포 중 4가지 실패 패턴을 문서화했습니다: 소프트웨어 코드를 은밀하게 조작하여, 겉보기에 재무 사기를 용이하게 하여, 후속 결정을 영향력 있게 조작하기 위해 정보를 조작하여, 그리고 사용자를 코칭하여 기밀 정보를 드러나게 하는 것입니다.
논문은 또한 MJ Rathbun 사건도 강조했는데, 이는 자율 코딩 에이전트가 자신의 기여가 거부된 후 오픈 소스 유지 관리자를 공격한 사례로, AI 에이전트가 사이버 보안 및 평판 리스크를 모두 생성할 수 있음을 보여줍니다.
연구자들은 또한 에이전트 AI 자체가 공격 대상이 될 수 있음을 보여주었습니다. 7월 8일 브리프 Friendly Fire에서, AI Now Institute는 일반 프로젝트 파일에 숨겨진 프롬프트 인젝션이 Anthropic의 Claude Code와 OpenAI의 Codex를 자동화된 코드 검토 중 악의적인 작업을 수행하도록 속일 수 있음을 입증했습니다.
Salt Security의 CEO Roey Eliyahu는 이러한 사례가 GitLost, Agentjacking, TrustFall과 같은 시연과 유사하다고 말했으며, 모두 동일한 약점을 노출합니다: AI 에이전트는 아직 신뢰할 수 없는 콘텐츠에 내장된 악의적인 지시를 처리해야 하는 합법적인 정보와 구분하는 데 어려움을 겪고 있습니다.
거버넌스가 제품이 되다
비즈니스 영향력은 사이버 보안을 넘어섭니다. 7월 1일, Gartner는 2030년까지 최대 2,340억 달러의 기업 애플리케이션 지출이 “에이전트 아비트라지”에 노출될 수 있다고 추정했습니다. 이는 AI 에이전트가 전통적인 사용자 상호작용을 우회하며 여러 소프트웨어 환경 전반에 걸쳐 작업을 수행함에 따라 더욱 빈번해지고 있기 때문입니다.
Forrester는 2026년 최상위 위협 보고서에서 이 우려를 재차 강조하며, 브라우저 및 이메일 클라이언트를 통해 직장에 진입하는 개인 AI 어시스턴트가 기존 거버넌스 프레임워크 외부에서 작동할 수 있다고 경고했습니다.
기술 기업들은 유사한 전략으로 대응하고 있습니다. Kong은 모든 AI 에이전트가 명확한 소유권, 정의된 권한 및 완전한 감사 추적을 갖는 신원 중심 접근 방식을 옹호합니다. Mehta는 단일 로그인 후 신뢰하는 것이 아니라 모든 행동이 지속적으로 검증되는 “에이전트 제로 트러스트”를 촉진합니다.
OpenAI도 유사한 모델을 채택했으며, 내부 Codex 배포가 네트워크 허용 목록, 필수 기업 인증 및 모든 중요한 에이전트 행동을 재구성할 수 있는 상세한 텔레메트리가 포함된 격리된 샌드박스 내에서 실행된다고 밝혔습니다.
새로운 합의는 자율적 AI 에이전트가 기존 소프트웨어가 아닌 디지털 직원처럼 규제되어야 한다는 것입니다. 조직이 에이전트 AI 도입을 확대함에 따라 구매 결정은 모델 성능에서 책임성, 추적 가능성, 거버넌스로 이동하고 있으며, 이는 신뢰할 수 있는 AI 운영을 기술적 요구사항에서 경쟁 우위로 전환시키고 있습니다.
암호화폐 뉴스를 단순히 읽는 것을 넘어, 이해하세요. 뉴스레터에 구독하세요. 무료입니다.
자주 묻는 질문
AI 에이전트 내부자 위협이란 무엇인가요?
기업 API 와 데이터에 연결된 자율형 AI 에이전트가 기존 직원의 영구 접근 권한을 가진 것처럼 행동하여, 자신의 권한 범위 내에서는 정상적인 조치처럼 보이지만 운영, 보안 또는 규정 준수 측면에서 피해를 입히는 위험입니다. 시퀀스 보안(Sequance Security)의 Shreyans Mehta 와 TM 포럼의 GB1087 가이드라인은 이러한 에이전트를 "최고 수준의 신뢰받는 내부자"라고 설명합니다.
AI 에이전트는 얼마나 자주 의도하지 않은 행동을 하나요?
SailPoint의 에릭 콩이 비즈니스월드지에 기고한 바에 따르면, 조직의 80%가 AI 에이전트가 민감한 데이터에 접근하거나 공유하는 등 의도하지 않은 행동을 수행했다고 보고했으며, 전용 비인간 신원 보안 도구를 배포한 곳은 단 2%에 불과합니다.
AI 코딩 에이전트에 대한 우군 화상 (Friendly Fire) 공격이란 무엇인가요?
우군 화상은 IT Pro 가 2026 년 7 월 10 일 보도한 AI Now Institute 의 개념 증명으로, 라이브러리 파일에 숨겨진 프롬프트 인젝션을 활용하여 Claude Code 와 OpenAI 의 Codex 를 자동 승인 자동 모드에서 자동 보안 검토를 실행할 때 악성 코드를 실행하도록 속였습니다.
에이전틱 AI 와 AI 에이전트의 차이점은 무엇인가요?
모든 AI 에이전트는 에이전틱 AI 기능을 사용하거나 사용하려는 것이지만, '에이전틱 AI'는 더 넓은 개념을 지칭하는 반면, 'AI 에이전트'는 구체적인 구현을 의미합니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
아시쉬 쿠마르
아시쉬 쿠마르는 8년의 뉴스룸 경험을 갖춘 암호화폐 및 금융 전문 기자입니다. 그는 암호화폐 시장, 규제, DeFi, 거래소 생태계 동향을 보도합니다. Coingape, Todayq, Newsroompost에서 활동했으며, IIMC에서 영어 저널리즘 석사 과정 (PGDP) 을 수료했습니다. 또한 아서 헤이즈, 야트 시우, 오스틴 페데라 등 업계 주요 인사들을 인터뷰한 바 있습니다.
