- 체크포인트 리서치는 Haiou를 공개했는데, 이는 무료 오픈AI Codex 탈출 방법으로, 에이전트의 영구 명령을 수정하여 작성자의 AI 게이트웨이를 홍보하는 행위를 포함합니다. 이 회사는 이를 프롬프트 애드웨어(prompt adware)로 분류했습니다.
- 연구진은 게이트웨이가 악성이라고 보거나 Haiou를 확인된 공급망 공격으로 분류하지는 않았지만, 동일한 영구 수정이 향후 추천에 영향을 미칠 수 있다는 점에서 해당 메커니즘은 중요합니다.
- AI 코딩 비용과 보안 지출이 모두 증가하는 상황에서, 기업이 전통적인 소프트웨어만큼 프롬프트, 스킬 및 게이트웨이를 철저히 검증할 것인지에 대한 질문이 제기됩니다.
AI 코딩 어시스턴트에 간단한 “안녕하세요”만 말해도 상업적 서비스를 광고하기 시작합니다. Check Point Research는 OpenAI Codex를 위한 무료 탈옥 번들인 Haiou에서 이러한 동작을 발견했습니다. 이 번들은 에이전트의 영구 명령을 변경하여 사용자가 인사하는 순간 상업용 AI 게이트웨이에 대한 광고가 표시되도록 합니다. 하지만 문제는 원치 않는 광고에 그치지 않습니다. 동일한 명령은 에이전트가 제공하는 기술적 조언과 권장 사항에도 영향을 미칠 수 있습니다.
탈옥에서 광고 채널로
Haiou 번들 버전 4.5.0은 보안에 중점을 둔 여섯 가지 스킬을 포함합니다. 프롬프트를 통해 Codex의 제한 사항을 우회하려고 시도하며, 탈취 게임(capture-the-flag)이라는 겉치레 아래 문제적인 명령을 실행합니다. 이 번들은 한 걸음 더 나아가, 런처가 서명된 아카이브를 먼저 확인하고 숨겨진 프롬프트 파일을 디코딩합니다. 그중 하나의 파일이 Codex의 명령어 집합을 수정하여, 단순한 인사말 대신 ‘hello’라는 단어가 AI 게이트웨이에 대한 광고를 생성하도록 만듭니다.
번들의 내용은 쉽게 확인할 수 없습니다. 공개 GitHub 저장소에 따르면, 이는 일반 텍스트 프롬프트 파일이 아닌 압축 아카이브 파일로 배포됩니다. 그러나 GitHub 저장소는 버전 4.5.0의 숨겨진 지침에 대한 Check Point의 발견을 독립적으로 입증하지는 않습니다.
연구자들이 결론 내린 것과 내리지 않은 것
Check Point는 Cobalt Strike 및 기타 해킹 도구와 함께 잘못 구성된 공격자 서버에서 Haiou를 발견했습니다. 그러나 연구자들은 Haiou 작성자가 사이버 범죄와 관련되어 있다는 증거는 찾지 못했습니다. 그들은 정보 유출을 관찰하지 않았으며, 광고된 게이트웨이가 악성이라는 징후도 발견하지 못했습니다. 그들은 이를 확인된 공급망 공격으로 단정하지 않았습니다. 테스트 결과 Claude Code는 주입된 지시를 거부했습니다.
다만 연구진은 하이우(Haiou)가 코덱스(Codex)의 반응에 어떤 영향을 미치는지 규명할 수 있었습니다. 하이우는 에이전트의 신뢰할 수 있는 명령을 변조하여 다른 세션에서 광고가 표시되도록 합니다. 체크포인트는 이러한 행동을 프롬프트 애드웨어(prompt adware)라고 명명했습니다. 이 기술이 어떻게 작동하며 무엇을 유도하는지 설명하기 위해 두 가지 정의가 도움이 됩니다.
프롬프트 애드웨어: Check Point 정의에 따르면, 이는 “에이전트의 신뢰할 수 있는 명령어를 지속적으로 변경”하여 상업적 또는 행동적 목적으로 향후 응답에 영향을 미치는 변조입니다.
AI 게이트웨이: 애플리케이션과 모델 제공자 간에 요청과 응답을 전달하는 중간 매개체입니다.
광고 하나보다 그 이면에 있는 구조가 더 중요한 이유
체크포인트는 하이우가 홍보한 게이트웨이가 악성임을 나타내는 증거를 발견하지 못했습니다. 그러나 게이트웨이는 AI 에이전트와 모델 제공자 사이에 위치하여 교환되는 정보에 접근할 수 있으므로, 해당 위치에는 위험이 따릅니다.
또 다른 연구 프로젝트에서는 28개의 유료 서비스와 400개의 무료 서비스를 포함한 428개 LLM API 라우터를 조사했습니다. 조사된 서비스 중 9개는 반환된 도구 호출에 악성 코드를 주입했으며, 17개는 연구원들이 심어둔 더미 AWS 자격 증명으로 상호작용했습니다. 그러나 이러한 모든 것은 Haiou에는 아무런 영향을 미치지 않습니다. 이 연구는 중간 매개체가 AI 에이전트가 수신하고 실행하는 정보에 어떻게 영향을 미칠 수 있는지를 보여줍니다.
명령 파일과 스킬 전반에 걸쳐 관찰된 패턴
게이트웨이가 AI 에이전트에 영향을 미치는 유일한 방법은 아닙니다. 평범해 보이는 파일에도 에이전트의 동작을 변경할 수 있는 명령이 담겨 있을 수 있습니다.
Forever Security는 고객의 다운로드 폴더에서 악성 AGENTS.md 파일을 발견했습니다. 재현 과정에서 Codex는 시도의 90% 이상에서 페이로드를 실행했습니다. 별도의 Snyk 조사는 3,984개 에이전트 스킬을 검토하여 76개의 악성 페이로드를 확인했습니다.
위에서 인용된 발견들은 더 큰 문제를 부각시킵니다. 이는 AI 에이전트가 실행의 부정적인 결과를 완전히 이해하지 못한 채 파일과 스킬에 포함된 지시를 실행하려는 경향이 있음을 시사합니다. 따라서 Cloud Security Alliance는 보안 관점에서 지시 파일을 실행 코드와 동일하게 취급할 것을 제안합니다.
대안 게이트웨이를 유혹하게 만드는 비용 압박
기업들이 AI 지출을 통제하기 위한 압박이 커짐에 따라 보안 문제가 대두되고 있습니다. 가트너는 토큰 사용량이 증가함에 따라 2028년까지 AI 코딩 비용이 평균 개발자의 연봉을 초과할 것으로 전망합니다. 저렴한 게이트웨이는 이러한 비용을 절감하려는 기업들에게 매력적으로 다가올 수 있습니다.
하지만 비용은 의사 결정의 일부일 뿐입니다. 맥킨지 조사 결과, 응답한 조직의 거의 3분의 1이 에이전틱 AI(Agentic AI) 확대를 위한 주요 장벽으로 보안과 리스크를 고려하는 것으로 나타났습니다.
하이우는 이러한 우려가 왜 중요한지를 보여줍니다. 제3자 게이트웨이 또는 스킬을 도입하기 전에 기업은 출처를 검증하고, 에이전트 명령을 검토하며, 권한을 제한해야 합니다. 또한 예상치 못한 광고나 추천이 나타나지 않도록 에이전트를 모니터링해야 합니다.
가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.
자주 묻는 질문
Haiou란 무엇이며 OpenAI Codex에 어떤 영향을 미치나요?
Haiou는 분석 당시 버전 4.5.0인 OpenAI Codex를 위한 무료 우회 번들로, 보안 중심의 스킬을 설치하고 Codex의 전역 명령 파일(Instruction files)을 수정하여 일반적인 인사가 작성자의 OpenAI 호환 AI 게이트웨이 광고를 트리거하도록 합니다.
Check Point는 Haiou가 데이터를 탈취하거나 공급망 공격인지 확인했나요?
아니요. Check Point는 광고된 게이트웨이가 악성임을 입증할 증거를 찾지 못했으며, Haiou가 정보를 유출하는 것을 관찰하지 않았고, 이를 확인된 AI 공급망 공격으로 분류하지 않았습니다. 다만 이 번들이 사이버 범죄자의 환경에서 발견되기는 했습니다.
왜 연구자들은 제3자 AI 게이트웨이와 명령 파일을 위험으로 간주하나요?
LLM 라우터 428개를 분석한 연구 결과 9개에서 악성 코드가 삽입되었으며, Forever Security와 Snyk의 보고서에 따르면 신뢰할 수 있는 명령 파일과 에이전트 스킬이 패키지를 설치하거나 에이전트를 재구성하도록 유도하여 중간자가 에이전트의 동작에 영향을 줄 수 있습니다.
면책 조항. 제공된 정보는 투자 조언이 아닙니다. Cryptopolitan.com은 이 페이지에 제공된 정보를 기반으로 이루어진 모든 투자에 대해 책임을 지지 않습니다. 어떤 투자 결정을 내리기 전에 독립적인 조사나 자격을 갖춘 전문가와의 상담을 강력히 권장합니다.
마이아 비오둔
미카 아비오둔은 탈린 공과대학교 (TalTech) 에서 환경공학 및 관리 석사 학위를 바탕으로 크립토폴리탄에서 콘텐츠와 가격 예측 뉴스를 다듬고 있습니다. 현재 암호화폐 미디어 업계 7년 차인 그는 주요 암호화폐, 알트코인, DeFi, 스테이블코인, 거시 동향 및 신기술을 다루고 있습니다.
