AI 브라우저는 해커들의 다음 주요 표적이다

오픈AI의 아틀라스와 퍼플렉시티의 콰이넷과 같은 AI 브라우저는 편의성을 약속한다. 하지만 이들은 주요 사이버보안 위험을 수반하며 해커들을 위한 새로운 놀이터를 형성한다.

AI 기반 웹 브라우저는 구글 크롬과 브레이브와 같은 기존 브라우저들과 경쟁하며 하루 수십억 명의 인터넷 사용자를 유치하려 한다.

며칠 전, OpenAI는 아틀라스를 출시했으며, Perplexity의 코멧은 수개월간 존재해 왔습니다. AI 기반 브라우저는 페이지를 통해 타이핑하고 클릭할 수 있습니다. 사용자는 비행기 예약, 이메일 요약, 양식 작성 등을 요청할 수 있습니다.

기본적으로 AI 기반 브라우저는 디지털 어시스턴트처럼 행동하고 웹을 자율적으로 탐색하도록 설계되었습니다. 이들은 온라인 생산성의 다음 큰 도약으로 평가받고 있습니다.

보안 연구자들이 AI 브라우저의 결함을 지적하다

하지만 대부분의 소비자들은 AI 브라우저 사용과 관련된 보안 위험을 인지하지 못하고 있습니다. 이러한 브라우저는 프롬프트 인젝션이라는 새로운 현상을 통해 정교한 해킹에 취약합니다.

해커들은 AI 웹 브라우저를 악용하여 사용자의 로그인 세션에 접근하고 무단 작업을 수행할 수 있습니다. 예를 들어, 해커는 이메일, 소셜 미디어 계정에 접근하거나 은행 세부 정보를 확인하고 자금을 이체할 수 있습니다.

최근 연구에 따르면, 해커들은 웹 페이지나 심지어 이미지 안에 숨겨진 지시를 삽입할 수 있다. AI 에이전트가 이 콘텐츠를 분석하고 숨겨진 지시를 볼 때, 이를 실제 사용자 명령인 것처럼 실행하도록 속일 수 있다. AI 웹 브라우저는 진짜와 가짜 사용자 지시를 구분할 수 없다.

브레이브 엔지니어들은 퍼플렉시티(Perplexity)의 콰이넷을 실험하고 프롬프트 인젝션에 대한 반응을 테스트했다. 콰이넷은 스크린샷 안에 숨겨진 보이지 않는 텍스트를 처리하는 것으로 나타났다. 이 접근 방식은 공격자가 쉽게 브라우징 도구를 제어하고 사용자 데이터를 추출할 수 있게 한다.

Brave의 엔지니어들은 이러한 취약점을 “AI 기반 브라우저 전체 카테고리가 직면한 시스템적 과제”라고 불렀습니다.

프롬프트 인젝션은 수정하기 어렵다

보안 연구자들과 엔지니어들은 프롬프트 인젝션이 수정하기 어렵다고 말합니다. 이는 인공지능 모델이 지시사항의 출처를 이해하지 못하기 때문입니다. 그들은 진위 프롬프트를 구분할 수 없습니다.

기존 소프트웨어는 안전한 입력과 악성 코드를 구분할 수 있지만, 대규모 언어 모델(LLMs)은 그 구분에 어려움을 겪는다. LLMs는 사용자 요청, 웹사이트 텍스트, 심지어 숨겨진 데이터까지 모두 처리하며 이를 하나의 큰 대화로 간주한다.

이것이 바로 프롬프트 인젝션이 위험한 이유입니다. 해커들은 안전해 보이는 콘텐츠 안에 가짜 지시사항을 쉽게 숨겨 민감한 정보를 탈취할 수 있습니다.

AI 기업들은 프롬프트 인젝션이 심각한 위협임을 인정하다

퍼플렉시티 는 이러한 공격이 코드나 탈취된 비밀번호에 의존하는 것이 아니라 AI의 “사고 과정”을 조작한다고 밝혔다. 이 회사는 콰이넷을 둘러싸 프롬프트 인젝션 공격을 막기 위해 여러 방어 레이어를 구축했다. 이는 실시간으로 위협을 감지하는 머신러닝 모델을 사용하고 있으며, AI가 사용자 의도에 집중하도록 하는 가드레일 프롬프트를 통합했다. 또한 브라우저는 이메일 보내기나 항목 구매와 같은 민감한 작업에 대해 필수적인 사용자 확인을 요구한다.

보안 연구자들은 주요 개선 사항이 rollout되기 전까지 AI 기반 웹 브라우저를 민감한 계정이나 개인 데이터와 함께 신뢰해서는 안 된다고 믿는다. 사용자는 여전히 AI 웹 브라우저를 사용할 수 있지만, 도구 접근 권한이 없고 자동화된 작업이 비활성화된 상태에서 사용해야 하며, 은행 계좌, 이메일 또는 의료 앱에 로그인했을 때는 사용을 피해야 한다.

오픈AI의 최고정보보안책임자(CISO) 데인 스탁키는 프롬프트 인젝션의 위험성을 인정하며 X에 “우리가 매우 신중하게 연구하고 완화하고 있는 새로운 위험 중 하나는 프롬프트 인젝션이다. 이는 공격자들이 웹사이트, 이메일 또는 기타 소스에 악의적인 지시를 숨겨 에이전트가 의도하지 않은 방식으로 행동하도록 속이려는 시도”라고 썼다.

그는 OpenAI의 목표가 사람들에게 “가장 유능하고 신뢰할 수 있으며 보안에 민감한 동료나 친구를 신뢰하듯 ChatGPT 에이전트가 브라우저를 사용하도록 신뢰하게 만드는 것”이라고 설명했습니다. Stuckey는 OpenAI 팀이 “그것을 달성하기 위해 열심히 노력하고 있다”고 말했습니다.