OpenAI의 Atlas나 Perplexity의 Comet과 같은 AI 기반 브라우저는 편리함을 약속 하지만, 심각한 사이버 보안 위험을 내포하고 있어 해커들에게 새로운 공격 무대가 되고 있습니다.
인공지능 기반 웹 브라우저는 구글 크롬이나 브레이브 같은 기존 브라우저와 경쟁하며 매일 수십억 명의 인터넷 사용자를trac하는 것을 목표로 하고 있습니다.
며칠 전 OpenAI는 Atlas를 출시했고, Perplexity의 Comet은 이미 몇 달 전부터 존재해 왔습니다. AI 기반 브라우저는 텍스트를 입력하고 페이지를 클릭할 수 있습니다. 사용자는 항공편 예약, 이메일 요약 또는 양식 작성까지 AI 브라우저에 지시할 수 있습니다.
기본적으로 AI 기반 브라우저는 디지털 비서 역할을 하며 웹을 자율적으로 탐색하도록 설계되었습니다. 이러한 브라우저는 온라인 생산성의 차세대 도약으로 주목받고 있습니다.
보안 연구원들이 AI 브라우저의 취약점을 지적했습니다
하지만 대부분의 소비자는 AI 브라우저 사용에 따르는 보안 위험을 인지하지 못하고 있습니다. 이러한 브라우저는 '프롬프트 인젝션'이라는 새로운 현상을 통해 정교한 해킹에 취약합니다.
해커는 AI 웹 브라우저를 악용하여 사용자의 로그인 세션에 접근하고 무단으로 작업을 수행할 수 있습니다. 예를 들어, 해커는 이메일, 소셜 미디어 계정에 접근하거나 은행 계좌 정보를 확인하고 자금을 이체할 수도 있습니다.
연구 에 따르면 해커는 웹 페이지나 이미지 안에 숨겨진 명령어를 삽입할 수 있습니다. AI 에이전트가 이러한 콘텐츠를 분석하고 숨겨진 명령어를 발견하면, 마치 정상적인 사용자 명령인 것처럼 속아 실행할 수 있습니다. AI 웹 브라우저는 진짜 사용자 명령과 가짜 사용자 명령을 구분하지 못합니다.
Brave 엔지니어들은 Perplexity의 Comet을 사용하여 프롬프트 주입에 대한 반응을 테스트했습니다. 그 결과 Comet이 스크린샷에 숨겨진 보이지 않는 텍스트를 처리할 수 있다는 사실이 밝혀졌습니다. 이러한 접근 방식을 통해 공격자는 브라우징 도구를 제어하고 사용자 데이터를 손쉽게 trac
Brave의 엔지니어들은 이러한 취약점을 "AI 기반 브라우저 전체 범주가 직면한 시스템적 문제"라고 불렀습니다
신속 주사는 고치기 어렵습니다
보안 연구원과 엔지니어들은 프롬프트 인젝션 공격을 해결하기 어렵다고 말합니다. 그 이유는 인공지능 모델이 명령의 출처를 이해하지 못하기 때문입니다. 인공지능 모델은 진짜 프롬프트와 가짜 프롬프트를 구분할 수 없습니다.
기존 소프트웨어는 안전한 입력과 악성 코드를 구분할 수 있지만, 대규모 언어 모델(LLM)은 이러한 구분에 어려움을 겪습니다. LLM은 사용자 요청, 웹사이트 텍스트, 심지어 숨겨진 데이터까지 모든 것을 하나의 거대한 대화처럼 처리합니다.
이것이 바로 프롬프트 인젝션이 위험한 이유입니다. 해커는 안전해 보이는 콘텐츠 안에 가짜 명령어를 쉽게 숨겨 민감한 정보를 탈취할 수 있습니다.
AI 기업들은 신속한 주입이 심각한 위협임을 인정합니다
Perplexity는 밝혔습니다 . 이 회사는 프롬프트 주입 공격을 막기 위해 Comet 주변에 여러 방어 계층을 구축했습니다. 실시간으로 위협을 감지하는 머신 러닝 모델을 사용하고, AI가 사용자 의도에 집중하도록 하는 가드레일 프롬프트를 통합했습니다. 또한, 이메일 전송이나 상품 구매와 같은 중요한 작업을 수행할 때는 사용자 확인을 필수로 요구합니다.
보안 연구원들은 AI 기반 브라우저에 주요 개선 사항이 적용될 때까지 민감한 계정이나 개인 데이터를 맡겨서는 안 된다고 생각합니다. 사용자는 AI 웹 브라우저를 계속 사용할 수는 있지만, 관련 도구에 접근할 수 없고 자동화된 작업도 비활성화해야 하며, 은행 계좌, 이메일 또는 의료 앱에 로그인한 상태에서는 사용을 피해야 합니다.
OpenAI의 최고 정보 보안 책임자(CISO)인 데인 스터키는 기고한 글 에서 "우리가 매우 신중하게 연구하고 완화하려는 새로운 위험 중 하나는 프롬프트 인젝션입니다. 공격자는 웹사이트, 이메일 또는 기타 소스에 악성 명령어를 숨겨 에이전트가 의도치 않은 방식으로 작동하도록 속이려고 합니다."라고 밝혔습니다.
그는 OpenAI의 목표는 사람들이 "가장 유능하고 신뢰할 수 있으며 보안에 민감한 동료나 친구를 신뢰하는 것처럼 ChatGPT 에이전트가 브라우저를 사용하는 것을 신뢰하도록 만드는 것"이라고 설명했습니다. 스터키는 OpenAI 팀이 "이를 달성하기 위해 열심히 노력하고 있다"고 말했습니다
