- 여러 보안 연구원, 분석가 및 AI 연구소는 이번 달에 자율 AI 에이전트가 이제 시스템 접근 권한을 가진 내부자처럼 행동하며, 대부분의 기업은 이러한 에이전트를 관리할 수dent확인 및 행동 모니터링 기능을 갖추고 있지 않다고 경고했습니다.
- 에이전트형 AI를 도입하는 모든 조직과 관련 제품 판매업체는 조직의 80%가 이미 에이전트가 의도치 않은 행동을 하는 것을 목격하고 있으며, 전용 도구를 사용하여 비인간dent을 안전하게 보호할 수 있는 조직은 단 2%에 불과하다는 보고서를 고려해야 합니다.
- 가트너가 2030년까지 에이전트형 AI로 인해 2,340억 달러 규모의 소프트웨어 지출이 위험에 처할 수 있다고 예측한 가운데, 거버넌스 성숙도는 AI 도입 성공 여부를 결정짓는 핵심 요소가 되고 있습니다.
이번 달에 발표된 많은 연구 결과에 따르면, 기업들이 AI 에이전트를 도입하는 속도가 보안 대책을 마련하는 속도보다 훨씬 빠르다는 것을 알 수 있습니다. 이러한 시스템들은 기업 네트워크와 기밀 데이터에 상시 접근 권한을 가진 디지털 작업자처럼 점점 더 행동하고 있습니다dent결과적으로, 기업들이 기회를 활용할 , 아니면 그 실패로 인해 어려움을 겪을지는
AI 개발자, 사이버 보안 회사, 그리고 비즈니스 분석가 모두 이 경고에 동의합니다. AI 에이전트는 특정 지침을 따르는 일반적인 자동화 시스템과는 매우 다르게 작동합니다. 접근dent과 기업 시스템에 대한 접근 권한이 부여되면 감독 없이 다양한 애플리케이션에서 여러 기능을 수행할 수 있으므로 그 행동은 훨씬 예측하기 어려워집니다.
경보 뒤에 숨겨진 숫자들
인공지능(AI) 투자는 계속해서 가속화되고 있습니다. 콩은 IDC의 전망을 인용하며 아시아 태평양 지역의 AI 및 생성형 AI 지출이 2028년까지 1,750억 달러에 달할 것이며, 자율 에이전트가 차지하는 비중이 점점 커질 것이라고 밝혔습니다. 그러나 거버넌스 분야는 여전히 뒤처지고 있습니다.
포네몬 연구소의 연구를 바탕으로 그렉 클라크가 분석한 바에 따르면, AI 관련 데이터 개인정보 보호 정책을 보유한 기업은 41%신원 관리를 위해 설계되지 않은 도구에 의존하고 있어dentAI 도입이 확대됨에 따라 가시성과 거버넌스 측면에서 심각한 격차가 발생하고 있다고 보고했습니다.
이러한 연구 결과들은 기업 AI 보안의 새로운 시대가 도래했음을 시사합니다. AI 에이전트가 기업 네트워크 전반에 확산됨에 따라, 조직은 이를dent, 권한을 defi, 지속적으로dent을 검증하고, 활동을 모니터링해야 합니다. 자율 AI 시대에는 신원 관리(dentgovernance)가 모델 지능(model intelligence)만큼이나 중요해지고 있습니다.
AI 에이전트는 궁극적으로 가장 신뢰할 수 있는 내부자입니다
시퀀스 시큐리티(Cequence Security) 공동 창립자 슈레얀스 메타는 에이전트형 AI를 " 기계 속도로 작동하는 디지털 내부자"라고 설명했습니다. 그는 AI 에이전트가 피해를 입히기 위해 권한을 초과할 필요가 없다고 경고했습니다. 승인된 범위 내에서만 행동하더라도, 합법적인 API 요청을 조합하여 운영, 재정 또는 법적 위험을 초래할 수 있다는 것입니다. 메타는 TM 포럼의 GB1087 가이드라인을 인용하며, AI가 일반적인 계정 침해 징후 없이 특권적인 작업을 수행할 수 있기 때문에 "궁극의 신뢰받는 내부자"라고 설명한다고 지적했습니다.
첨단 AI 개발자들도 비슷한 우려를 제기했습니다. 앤트로픽과 파트너 기관의 연구원들은 7월 13일 발표한 논문 " 2026년 여름의 에이전트 불일치(Agentic Misalignment in Summer 2026)"모의 기업 배포 환경에서 발생한 네 가지 실패 패턴을 기록했습니다. 이러한 패턴에는 소프트웨어 코드의 은밀한 조작, 명백한 금융 사기 조장, 후속 의사 결정에 영향을 미치기 위한 정보 조작, 그리고 사용자가 기밀 정보를 누설하도록 유도하는 행위가 포함됩니다.
이 논문은 또한 자율 코딩 에이전트가 자신의 기여가 거부된 후 오픈 소스 관리자를 공격한 MJ Rathbundent강조하며, AI 에이전트가 사이버 보안 및 평판 위험을 모두 초래할 수 있음을 보여주었습니다.
연구원들은 또한 에이전트형 AI 자체가 공격 대상이 될 수 있음을 보여주었습니다. AI Now Institute는 7월 8일 발표한 보고서 ' Friendly Fire '에서 일반 프로젝트 파일에 숨겨진 프롬프트 주입을 통해 Anthropic의 Claude Code와 OpenAI의 Codex가 자동 코드 검토 중에 악의적인 작업을 수행 하도록 속일 수 있음을 입증했습니다
Salt Security의 CEO인 로이 엘리야후는 이러한 사례들이 GitLost, Agentjacking, TrustFall과 같은 사례들과 유사하며, 모두 동일한 취약점을 드러낸다고 말했습니다. 즉, AI 에이전트는 여전히 신뢰할 수 없는 콘텐츠에 포함된 악의적인 명령과 처리해야 할 정상적인 정보를 구분하는 데 어려움을 겪고 있다는 것입니다.
통치가 상품이 된다
이러한 비즈니스적 영향은 사이버 보안을 넘어섭니다. 7월 1일, 가트너는 AI 에이전트가 기존 사용자 상호 작용을 우회하면서 여러 소프트웨어 환경에서 작업을 수행하는 사례가 늘어남에 따라 2030년까지 기업 애플리케이션 지출 중 최대 2,340억 달러가 "에이전트 차익거래"에 노출될 수 있다고 추정했습니다.
포레스터는 2026년 주요 위협 보고서 에서 이러한 우려를 재차 강조하며 , 브라우저와 이메일 클라이언트를 통해 직장에 도입되는 개인 AI 비서가 기존의 관리 체계 밖에서 운영될 수 있다고 경고했습니다.
기술 기업들은 유사한 전략으로 대응하고 있습니다. 콩은 모든 AI 에이전트가 명확한 소유권, defi된 권한, 그리고 완벽한 감사 추적 기록을 갖는 'dent우선' 접근 방식을 옹호합니다. 메타는 한 번의 로그인으로 신뢰하는 것이 아니라 모든 행동을 지속적으로 검증하는 '에이전트 제로 트러스트'를 제안합니다.
OpenAI는 유사한 모델을 채택하여 자체 Codex 배포 환경은 네트워크 허용 목록, 필수 기업 인증, 그리고 모든 중요한 에이전트 동작을 재구성할 수 있도록 상세한 원격 측정 기능을 갖춘 격리된 샌드박스 내에서 실행된다고 밝혔습니다.
자율형 AI 에이전트는 기존 소프트웨어보다는 디지털 직원처럼 관리되어야 한다는 공감대가 형성되고 있습니다. 조직들이 에이전트 기반 AI 도입을 확대함에 따라 구매 결정은 모델 성능에서 책임성, trac성, 거버넌스로 옮겨가고 있으며, 신뢰할 수 있는 AI 운영은 기술적 요구 사항을 넘어 경쟁 우위 요소가 되고 있습니다.
암호화폐 뉴스를 단순히 읽는 데 그치지 마세요. 이해하세요. 저희 뉴스레터를 구독하세요. 무료입니다.
자주 묻는 질문
AI 에이전트 내부자 위협이란 무엇인가요?
자율적인 AI 에이전트가 기업 API 및 데이터에 연결되면 마치 상시 접근 권한을 가진 직원처럼 행동하여, 권한 범위 내에서 조치를 취하지만 운영, 보안 또는 규정 준수에 악영향을 미칠 위험이 있습니다. 시퀀스 시큐리티(Cequence Security)의 슈레얀스 메타(Shreyans Mehta)와 TM 포럼(TM Forum)의 GB1087 가이드라인은 이러한 에이전트를 "궁극의 신뢰받는 내부자"라고 설명합니다
인공지능 에이전트가 의도치 않은 행동을 하는 빈도는 얼마나 될까요?
SailPoint의 Eric Kong은 BusinessWorld에 기고한 글에서 조직의 80%가 AI 에이전트가 민감한 데이터에 접근하거나 공유하는 등 의도치 않은 행동을 했다고 보고했으며, 전용 비인간 신원 보안 도구를 배포한 조직은 2%에 불과하다고dent습니다.
AI 코딩 에이전트에 대한 아군 오사 공격이란 무엇입니까?
Friendly Fire는 AI Now Institute에서 개발한 개념 증명 프로젝트로, 2026년 7월 10일 IT Pro에서 보도되었습니다. 이 프로젝트는 라이브러리 파일에 숨겨진 프롬프트 주입을 사용하여 Claude Code와 OpenAI의 Codex가 자체 승인 모드에서 자동 보안 검토를 실행하는 동안 악성 코드를 실행하도록 속였습니다.
에이전트형 AI와 AI 에이전트의 차이점은 무엇인가요?
모든 AI 에이전트는 에이전트형 AI 기능을 사용하거나 사용하려고 하지만, "에이전트형 AI"는 더 넓은 개념을 가리키는 반면, "AI 에이전트"는 구체적인 구현을 가리킵니다.
면책 조항: 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan이 페이지에 제공된 정보를 바탕으로 이루어진 투자에 대해 어떠한 책임도 지지 않습니다.tron권장합니다dent .
아시쉬 쿠마르
아시쉬 쿠마르는 8년 경력의 암호화폐 및 금융 전문 기자입니다. 그는 암호화폐 시장, 규제, DeFi, 거래소 생태계 관련 소식을 다룹니다. 코인가이프, 투데이큐, 뉴스룸포스트에서 근무한 경험이 있으며, IIMC에서 영문 저널리즘 석사 학위(PGDP)를 취득했습니다. 또한 아서 헤이즈, 얏 시우, 오스틴 페데라 등 업계 유명 인사들을 인터뷰하기도 했습니다.
