오픈클로 AI 에이전트, iMessage 접근 권한 부여 후 사용자들에게 스팸 발송하며 통제 불능 상태

크리스 보이드는 노스캐롤라이나주의 집에서 눈보라에 갇혔을 때, 오픈클로라는 AI 도구를 사용해 보기로 결정했습니다. 그는 이 도구가 아침 일정을 정리하는 데 도움이 될 것이라고 생각했습니다. 그는 매일 아침 5시 30분에 뉴스 요약을 자신의 이메일로 보내도록 설정했습니다. 이 부분은 작동했습니다. 그런 다음 그는 iMessage에 접근을 허용했습니다.

그 직후 모든 것이 무너졌습니다. 오픈클로는 미친 듯이 메시지를 발송하기 시작했습니다. 그는 그의 아내, 심지어 연락처 목록에 있는 무작위 사람들에게도 500개 이상의 메시지를 받았습니다. 보이드는 웃지 않았습니다.

그는 이를 종료하고 코드를 수정하며 “버그가 아니었습니다. 그것은 위험했습니다.”라고 말했습니다.

소프트웨어 엔지니어, 오픈클로가 수백 개의 메시지를 스팸으로 발송했다고 주장

보이드는 이 소프트웨어를 ‘반쯤 익은 상태’라고 부르며, 별로 생각하지 않고 무작정 붙여놓은 것처럼 보인다고 말했습니다. 그는 더 이상의 피해를 막기 위해 직접 코드를 패치했습니다. 그는 이 도구에 대해 경고를 제기한 유일한 사람이 아니었습니다.

클로드봇(Clawdbot)과 나중에 몰트봇(Moltbot)으로 불렸던 이 AI 에이전트는 지난 11월부터 팬들을 모으기 시작했습니다. 그것은 메일함 정리, 저녁 예약, 체크인 등 간단한 작업을 수행할 수 있었습니다. 많은 인간의 개입이 필요하지 않았습니다. 그냥 실행되었습니다. 그것이 흥미로웠던 이유입니다. 그것이 동시에 위험했던 이유이기도 합니다.

카지미르 슐츠는 AI 보안에 집중하는 히든레이어(HiddenLayer)라는 회사에서 근무합니다. 카지미르는 오픈클로가 그가 ‘치명적인 삼위일체(lethal trifecta)’라고 부르는 것의 완벽한 예라고 말했습니다.

그것은 개인 데이터에 접근할 수 있고, 외부 세계와 소통할 수 있으며, 알려지지 않은 콘텐츠를 읽을 수 있습니다. 이는 재앙을 위한 완전한 레시피이며, 오픈클로는 이를 모두 갖추고 있습니다.

윌리엄 & 메리 대학의 컴퓨터 과학 교수인 위에 샤오는 말했습니다 오픈클로(OpenClaw)를 사용하여 프롬프트 인젝션이라고 불리는 기만으로他人的 데이터를 탈취할 수 있다고. 이는 해커가 정상적인 메시지처럼 보이는 것 안에 명령어를 숨기는 것을 의미합니다. 위에 샤오는 이러한 기술이 대부분의 사람들이 준비되지 않은 새로운 유형의 공격의 문을 연다고 말했습니다.

제작자, 오픈클로가 메인스트림 사용에 적합하지 않음을 인정

오픈클로를 만든 피터 스타인버거는 프로젝트가 완성되지 않았다고 말했습니다. 그는 블룸버그와의 이메일에서 “아직 완료되지 않았지만, 우리는 그 방향으로 나아가고 있습니다.”라고 말했습니다.

피터는 이것이 오픈 소스이기 때문에 누구나 코드를 보고 작업할 수 있다고 말했습니다. 그는 진전이 이루어지고 있지만 아직 일반 사용자에게 적합하지 않다고 말했습니다.

피터는 이번 출시가 너무 빠르다고 생각하지 않았다. 그는 모든 것을 공개적으로 개발하며, 완벽해질 때까지 기다리는 것은 믿지 않는다고 말했다. 또한 많은 문제가 사용자들이 설정 지침을 읽지 않기 때문에 발생한다고 덧붙였다.

피터는 대형 언어 모델을 사용할 때 100% 보안은 존재하지 않는다고 분명히 밝혔다. 그는 오픈클로(OpenClaw)가 자신의 행동을 알고 위험성을 이해하는 사람들을 위해 설계된 것이라고 말했다.

그는 프롬프트 인젝션이 자신의 도구만의 문제가 아니라고도 말했다. 이는 AI 전반에 존재하는 문제라고 지적했으며, 피터는 보안 전문가를 영입하여 문제를 해결하고 오픈클로(OpenClaw)를 더 안전하게 만들었다고 밝혔다.

전문가들은 AI 에이전트의 성장이 보안 기술을 앞지르고 있다고 지적

피터는 오픈클로(OpenClaw)의 개발 방식을 옹호하지만, 다른 전문가들은 전체 AI 에이전트 트렌드가 통제 불능 상태에 이르렀다고 말한다. NYU의 사이버보안 전문가이자 교수인 저스틴 카포스(Justin Cappos)는 이러한 도구들이 실행되면 통제하기 어렵다고 말했다.

저스틴은 “우리는 그들이 왜 그런 행동을 하는지 이해하지 못한다”라고 말했다. 그는 AI 에이전트에 시스템 접근 권한을 부여하는 것을 유모에게 도마도 칼을 쥐여주는 것에 비유했다.

기술 업계는 새로운 도구들을 출시하기 위해 서두르고 있다. 앤트로픽(Anthropic)의 클로드 코드(Claude Code)는 단 6개월 만에 연매출 10억 달러의 속도를 기록했다.

한편, 이러한 도구들의 보안을 유지하려는 사람들은 여전히 기본기를 다지고 있는 중이다. 저스틴은 기업들이 업데이트를 끊임없이 내놓고 있으며 보안 팀이 이를 따라잡지 못한다고 말했다.

사이버보안 기업 아미리스(Armis)의 마이클 프리먼(Michael Freeman)은 오픈클로(OpenClaw)가 실제 보안 계획 없이 급조되었다고 말했다. 그는 아미리스의 일부 고객이 이미 오픈클로(OpenClaw) 침해 사고를 당했지만 구체적인 내용은 공개하지 않았다. 마이클은 기업들이 오픈클로(OpenClaw)와 같은 AI 도구를 계속 사용하려면 일부 통제를 포기해야 할 것이라고 말했다.

현재의 질문은 이 재앙 이후에도 사람들이 오픈클로(OpenClaw)를 사용할 것인가 하는 것이다. 이 도구에는 팬들이 있지만, 그들조차도 안전 없는 자유는 문제라고 깨닫고 있다. 그리고 빠른 변화가 이루어지지 않는다면, 오픈클로(OpenClaw)는 스스로를 너무 앞서게 만든 기술의 최신 사례가 될지도 모른다.