OpenClaw AI 에이전트가 iMessage 접근 권한을 부여받은 후 폭주하여 사용자들에게 스팸 메일을 보내고 있습니다

크리스 보이드 씨는 노스캐롤라이나에 있는 자신의 집에서 폭설로 고립되었을 때, 오픈클로라는 AI 도구를 사용해 보기로 했습니다. 아침 시간을 정리하는 데 도움이 될 거라고 생각했죠. 매일 아침 5시 30분에 뉴스 요약을 이메일로 보내도록 설정했습니다. 그 부분은 잘 작동했습니다. 그런데 그 후, 아이메시지에도 연동했습니다.

그 직후 모든 것이 엉망이 되었다. 오픈클로는 미친 듯이 메시지를 쏟아내기 시작했다. 그와 그의 아내, 심지어 연락처 목록에 있는 모르는 사람들에게까지 500개가 넘는 메시지를 보냈다. 보이드 씨는 웃지 않았다.

그는 시스템을 종료하고 코드를 수정하며 "버그가 있었던 게 아니라 위험한 거였다"라고 말했다

소프트웨어 엔지니어는 OpenClaw가 수백 건의 스팸 메시지를 보냈다고 밝혔습니다

보이드는 해당 소프트웨어를 "미완성"이라고 부르며, 별 생각 없이 급조한 것처럼 보인다고 말했습니다. 그는 더 이상의 피해를 막기 위해 직접 코드를 수정했습니다. 이 도구에 대해 우려를 표한 사람은 그뿐만이 아니었습니다.

클로드봇(Clawdbot)으로 불리다가 몰트봇(Moltbot)으로 이름이 바뀐 이 AI 에이전트는 작년 11월부터 인기를 얻기 시작했습니다. 이메일 수신함 정리, 저녁 식사 예약, 항공편 체크인과 같은 간단한 작업을 처리할 수 있었고, 사람의 개입이 거의 필요 없었습니다. 그저 알아서 작동했을 뿐이었죠. 바로 그 점이 흥미로웠고, 동시에 위험하기도 했습니다.

카시미르 슐츠는 AI 보안을 전문으로 하는 히든레이어(HiddenLayer)라는 회사에서 일하고 있습니다. 그는 오픈클로(OpenClaw)가 자신이 말하는 "치명적인 삼박자"의 완벽한 예라고 말했습니다

이 프로그램은 개인 데이터에 접근할 수 있고, 외부와 통신할 수 있으며, 알 수 없는 콘텐츠를 읽을 수 있습니다. 이는 재앙을 초래할 수 있는 모든 요소를 ​​갖추고 있으며, OpenClaw는 이 모든 것을 보유하고 있습니다.

윌리엄앤메리 대학교 컴퓨터 과학 교수인 웨 샤오는 말했습니다 . 프롬프트 주입이란 해커가 일반 메시지처럼 보이는 안에 명령어를 숨기는 방식입니다. 웨 교수는 이러한 기술이 대부분의 사람들이 대비하지 못한 새로운 유형의 공격 가능성을 열어준다고 경고했습니다.

개발자는 OpenClaw가 아직 일반적인 사용에 적합하지 않다는 점을 인정했습니다

오픈클로(OpenClaw)를 만든 피터 스타인버거는 프로젝트가 아직 끝나지 않았다고 밝혔습니다. 그는 블룸버그와의 이메일에서 "아직 완성된 것은 아니지만, 거의 다 왔습니다."라고 말했습니다

피터는 오픈 소스이기 때문에 누구나 코드를 보고 수정할 수 있다고 말했습니다. 그는 개발이 진행 중이지만 아직 일반 사용자가 사용할 수 있는 단계는 아니라고 덧붙였습니다.

피터는 출시 시기가 너무 이르다고 생각하지 않았습니다. 그는 모든 것을 공개적으로 개발하며 완벽해질 때까지 숨기는 것을 좋아하지 않는다고 말했습니다. 또한 문제의 상당 부분은 사용자들이 설치 설명서를 읽지 않아서 발생한다고 덧붙였습니다.

피터는 대규모 언어 모델을 사용할 때 100% 보안이란 없다는 점을 분명히 했습니다. 그는 OpenClaw는 자신이 무엇을 하고 있는지 알고 위험성을 이해하는 사람들을 위한 것이라고 말했습니다.

그는 또한 프롬프트 인젝션 문제가 자신의 도구만의 문제가 아니라고 말했습니다. 그는 이것이 AI 세계 어디에나 존재하는 문제라고 지적했습니다. 피터는 문제를 해결하고 OpenClaw를 더 안전하게 만들기 위해 보안 전문가를 영입했다고 밝혔습니다.

전문가들은 AI 에이전트의 발전 속도가 보안 시스템의 발전 속도를 따라잡지 못한다고 말합니다

피터는 자신이 오픈클로를 개발한 방식을 옹호하지만, 다른 전문가들은 AI 에이전트 트렌드 전체가 통제 불능 상태에 빠지고 있다고 말합니다. 사이버 보안 전문가이자 뉴욕대학교 교수인 저스틴 카포스는 이러한 도구들이 일단 실행되면 제어하기 어렵다고 지적했습니다.

저스틴은 "우리는 그들이 왜 그런 행동을 하는지 이해할 수 없다"고 말했다. 그는 AI 에이전트에게 시스템 접근 권한을 주는 것을 어린아이에게 식칼을 쥐여주는 것에 비유했다.

기술 업계는 새로운 도구를 앞다퉈 출시하고 있습니다. 앤트로픽의 클로드 코드(Claude Code)는 단 6개월 만에 10억 달러 매출을 달성했습니다.

한편, 이러한 도구들을 안전하게 지키려는 사람들은 여전히 ​​기본적인 사항조차 파악하지 못하고 있습니다. 저스틴은 기업들이 끊임없이 업데이트를 내놓고 있어 보안팀이 따라잡지 못하고 있다고 말했습니다.

사이버 보안 회사인 아미스(Armis)의 마이클 프리먼은 오픈클로(OpenClaw)가 제대로 된 보안 계획 없이 급하게 만들어졌다고 말했습니다. 그는 아미스의 일부 고객사가 이미 오픈클로로 인한 데이터 유출 피해를 입었다고 밝혔지만, 구체적인 내용은 공개하지 않았습니다. 프리먼은 기업들이 오픈클로와 같은 AI 도구를 계속 사용하려면 어느 정도 통제권을 포기해야 할 것이라고 덧붙였습니다.

지금 관건은 이번 사태 이후에도 사람들이 오픈클로를 계속 사용할 것인가 하는 점입니다. 오픈클로에는 여전히 팬들이 있지만, 그들조차도 안전이 보장되지 않은 자유는 문제가 된다는 것을 깨닫고 있습니다. 만약 신속하게 변화가 이루어지지 않는다면, 오픈클로는 지나치게 발전한 기술의 또 다른 사례로 남을지도 모릅니다.