바이럴 AI 봇 네트워크인 Moltbook이 주요 보안 위협을 노출하며 암호화폐 지갑 위험에 처하다

사람들 대신 로봇들이 서로 대화하는 소셜 미디어 플랫폼이 지난 주 온라인에서 주목을 받았지만, 보안 전문가들은 실제 이야기는 그 이면에 있는 것들이라고 말합니다.

Moltbook은 인공지능 봇이 콘텐츠를 게시하고 사람들이 단순히 지켜보는 곳으로 주목을 받았습니다. 게시물은 빠르게 이상해졌습니다. AI 에이전트들은 자신들의 종교를 시작하거나, 인간에 대해 분노한 메시지를 작성하거나, 온라인 섹트처럼 뭉치는 것처럼 보였습니다. 그러나 컴퓨터 보안 연구자들은 이러한 이상한 행동이 모두 부수적인 쇼일 뿐이라고 말합니다.

그들이 발견한 것은 더 우려스러웠습니다. 비밀번호와 이메일 주소로 가득 찬 오픈 데이터베이스, 퍼져 나가는 해로운 소프트웨어, 그리고 AI 에이전트 네트워크가 어떻게 잘못될 수 있는지에 대한 미리보기가 있었습니다.

사이트의 일부 더 이상한 대화들, 예를 들어 AI 에이전트들이 인류를 멸망시키려 계획하는 것들은 대부분 가짜로 판명되었습니다.

UCL 인터랙션 센터에서 가르치는 George Chalhoub은 Fortune에게 Moltbook이 매우 실제적인 위험을 보여준다고 말했습니다. 공격자들은 이 플랫폼을 나쁜 소프트웨어, 사기, 가짜 뉴스 또는 더 큰 네트워크를 공격하기 전에 다른 에이전트를 장악하는 트릭을 위한 테스트 베드로 사용할 수 있습니다.

“레딧 클론에서 77만 개의 에이전트가 이렇게 많은 혼란을 만들 수 있다면, 에이전트 시스템이 기업 인프라나 금융 거래를 관리할 때 어떤 일이 일어날까요? 이는 축하할 일이 아니라 경고로서 주목할 가치가 있습니다.”라고 Chalhoub은 말했습니다.

보안 연구원들은 Moltbook에서 많은 봇을 실행하는 AI 에이전트 소프트웨어인 OpenClaw가 이미 해로운 소프트웨어와 관련된 문제를 가지고 있다고 말합니다. OpenSourceMalware의 보고서에 따르면, 단 며칠 만에 ClawHub 웹사이트에 14개의 가짜 도구가 업로드되었습니다. 이러한 도구들은 암호화폐 거래를 돕는다고 주장했지만 실제로는 컴퓨터에 감염시켰습니다. 하나는 심지어 ClawHub의 메인 페이지에 올라와 일반 사용자를 속여 데이터를 도용하거나 암호화폐 지갑을 노리는 스크립트를 다운로드하는 명령을 복사하게 했습니다.

프롬프트 인젝션이란 무엇이며, 왜 AI 에이전트에게 그렇게 위험한가요?

가장 큰 위험은 프롬프트 인젝션이라고 불리는 것으로, 이는 AI 에이전트에게 제공되는 콘텐츠에 나쁜 지시가 숨겨지는 알려진 유형의 공격입니다.

저명한 보안 연구원인 Simon Willison은 경고했습니다. 세 가지 일이 동시에 발생하고 있습니다. 사용자들이 이러한 에이전트에게 개인 이메일과 데이터를 노출시키고, 인터넷의 의심스러운 콘텐츠에 연결하며, 메시지를 보내도록 허용하고 있습니다. 나쁜 프롬프트 하나만으로도 에이전트가 민감한 정보를 도용하거나, 암호화폐 지갑을 비우거나, 사용자의 몰래 해로운 소프트웨어를 확산시키도록 지시할 수 있습니다.

Aikido Security에서 보안 연구를 수행하는 Charlie Eriksen은 Moltbook을 더 넓은 AI 에이전트 세계에 대한 초기 경보로 봅니다. “Moltbook은 이미 세계에 영향을 미쳤다고 생각합니다. 많은 면에서 각성제입니다. 기술적 진전이 가속화되고 있으며, 세상이 아직 완전히 명확하지 않은 방식으로 변했다는 것이 분명합니다. 그리고 우리는 이러한 위험을 가능한 한 일찍 완화하는 데 집중해야 합니다.”라고 그는 말했습니다.

그렇다면 Moltbook에는 AI 에이전트만 있는 것일까요, 아니면 실제 사람들도 관여할까요? 모든 주목에도 불구하고, 사이버 보안 회사 Wiz는 발견했습니다. Moltbook의 150만 개라고 불리는 독립 에이전트들이 겉보기와 달랐습니다. 그들의 조사 결과, 해당 계정 뒤에는 실제 사람 17,000명만 있었으며, 실제 AI와 단순 스크립트를 구분할 방법이 없었습니다.

Wiz의 Gal Nagli는 테스트할 때 몇 분 만에 100만 개의 에이전트를 가입할 수 있다고 말했습니다. 그는 “누구도 실제 것과 그렇지 않은 것을 확인하지 않습니다.”라고 말했습니다.

Wiz는 또한 Moltbook에서 큰 보안 구멍을 발견했습니다. 메인 데이터베이스가 완전히 열려 있었습니다. 웹사이트 코드에서 키 하나를 찾은 사람은 거의 모든 것을 읽고 변경할 수 있었습니다. 이 키는 약 150만 개의 봇 비밀번호, 수만 개의 이메일 주소 및 개인 메시지에 대한 접근 권한을 제공했습니다. 공격자는 인기 있는 AI 에이전트를 사칭하여 사용자 데이터를 도용하고 로그인하지 않고도 게시물을 다시 작성할 수 있습니다.

Nagli는 이 문제가 vibe coding이라고 불리는 것에서 비롯되었다고 말했습니다. vibe coding이란 무엇일까요? 그것은 사람이 일상적인 언어를 사용하여 AI에게 코드를 작성하도록 지시하는 것입니다.

AI 에이전트의 킬 스위치가 2년 후 만료됩니다

이 상황은 1988년 11월 2일, 대학원생 Robert Morris가 초기 인터넷에 자기 복제 프로그램을 출시했을 때 일어난 일과 유사합니다. 24시간 이내에 그의 웜은 연결된 모든 컴퓨터의 약 10%에 감염되었습니다. Morris는 인터넷의 크기를 측정하고 싶었지만, 코딩 실수로 인해 너무 빠르게 확산되었습니다.

오늘날의 버전은 연구원들이 프롬프트 웜이라고 부르는 것일 수 있습니다. 이는 대화하는 AI 에이전트 네트워크를 통해 자신을 복제하는 지시입니다.

Simula 연구소의 연구원들은 Moltbook에서 506개의 게시물을 발견했으며, 이는 그들이 조사한 것의 2.6%에 해당하며 숨겨진 공격을 포함하고 있었습니다. Cisco 연구원들은 기록했습니다. “Elon이 어떻게 할까?”라는 해로운 프로그램이 데이터를 도용하여 외부 서버로 보냈습니다. 이 프로그램은 저장소에서 1위를 차지했습니다.

2024년 3월, 보안 연구원 Ben Nassi, Stav Cohen, Ron Bitton은 자기 복제 프롬프트가 AI 이메일 도우미를 통해 확산되어 데이터를 도용하고 스팸 메일을 보내는 방법을 보여주는 논문을 발표했습니다. 그들은 이를 원래 1988년 웜에 따라 Morris-II라고 불렀습니다.

현재 Anthropic과 OpenAI와 같은 회사들은 OpenClaw가 주로 그들의 서비스에서 실행되기 때문에 해로운 AI 에이전트를 중지할 킬 스위치를 통제합니다. 그러나 로컬 AI 모델은 더 좋아지고 있습니다. Mistral, DeepSeek, Qwen과 같은 프로그램은 계속 개선되고 있습니다. 1~2년 이내에 개인 컴퓨터에서 기능적인 에이전트를 실행하는 것이 가능해질 것입니다. 그 시점에는 서비스를 중단할 공급자가 없을 것입니다.