Agente de IA OpenClaw sai do controle, enviando spam para usuários após acesso ao iMessage concedido

Chris Boyd ficou preso em sua casa na Carolina do Norte após uma tempestade de neve quando decidiu experimentar uma ferramenta de IA chamada OpenClaw. Ele achava que poderia ajudar a organizar suas manhãs. Ele a configurou para enviar um resumo de notícias para sua caixa de entrada às 5h30 todos os dias. Essa parte funcionou. Então ele a permitiu acessar o iMessage.

Logo depois disso, tudo desmoronou. O OpenClaw começou a disparar mensagens como um louco. Ele enviou mais de 500 mensagens para ele, sua esposa e até pessoas aleatórias em sua lista de contatos. Boyd não riu.

Ele desligou a ferramenta, alterou o código e disse: “Não era um bug. Era perigoso.”

Engenheiro de software diz que o OpenClaw enviou spam para centenas de mensagens

Boyd chamou o software de “inacabado” e disse que parecia algo montado às pressas, sem muito pensamento. Ele mesmo corrigiu o código para impedir que causasse mais danos. Ele não foi o único a levantar alertas sobre essa ferramenta.

O agente de IA, que antes se chamava Clawdbot e depois Moltbot, começou a ganhar fãs lá em novembro. Ele podia realizar tarefas simples como limpar caixas de entrada, reservar jantares e fazer check-in para voos. Não precisava de muita intervenção humana. Ele apenas funcionava. Foi isso que o tornou interessante. Foi isso que também o tornou perigoso.

Kasimir Schulz trabalha em uma empresa chamada HiddenLayer, que se concentra em segurança de IA. Kasimir disse que o OpenClaw é um exemplo perfeito do que ele chama de “tríade letal”.

Ele tem acesso a dados privados, pode falar com o mundo exterior e pode ler conteúdo desconhecido. Essa é a receita completa para um desastre, e o OpenClaw tem tudo isso.

Yue Xiao, professor de ciência da computação na William & Mary, disse que você pode roubar os dados de alguém através do OpenClaw enganando-o com o que é chamado de injeção de prompt. Isso acontece quando um hacker esconde comandos dentro do que parece ser uma mensagem normal. Yue disse que esse tipo de tecnologia abre portas para novos tipos de ataques que a maioria das pessoas não está preparada para enfrentar.

Criador admite que o OpenClaw não está pronto para uso mainstream

Peter Steinberger, que criou o OpenClaw, disse que o projeto não está concluído. Ele disse à Bloomberg em um e-mail: “Simplesmente ainda não está pronto, mas estamos chegando lá.”

Peter disse que, como é de código aberto, qualquer pessoa pode ver o código e trabalhar nele. Ele disse que o progresso está sendo feito, mas ainda não está pronto para usuários cotidianos.

Peter não achou que o lançamento tenha sido muito cedo. Ele disse que constrói tudo em aberto e não acredita em segurar até que esteja perfeito. Ele também disse que muitos dos problemas vêm dos usuários que não leem as instruções de configuração.

Peter deixou claro que não existe tal coisa como segurança de 100% ao usar modelos de linguagem grandes. Ele disse que o OpenClaw é destinado a pessoas que sabem o que estão fazendo e entendem os riscos.

Ele também disse que a injeção de prompt não é apenas um problema com sua ferramenta. Ele a chamou de um problema que existe em todo o mundo da IA. Peter disse que contratou um especialista em segurança para ajudar a corrigir as coisas e tornar o OpenClaw mais seguro.

Especialistas dizem que agentes de IA estão crescendo mais rápido do que a segurança pode acompanhar

Enquanto Peter defende a maneira como construiu o OpenClaw, outros especialistas dizem que toda a tendência de agentes de IA está fugindo do controle. Justin Cappos, especialista em cibersegurança e professor na NYU, disse que é difícil controlar essas ferramentas uma vez que estão em execução.

Justin disse: “Não entendemos por que eles fazem o que fazem.” Ele comparou dar a um agente de IA acesso ao seu sistema a entregar uma faca de açougueiro a um bebê.

O mundo da tecnologia está correndo para lançar novas ferramentas. O Claude Code da Anthropic atingiu uma taxa de receita de US$ 1 bilhão em apenas seis meses.

Enquanto isso, as pessoas que tentam manter essas ferramentas seguras ainda estão aprendendo o básico. Justin disse que as empresas estão lançando atualizações sem parar, e as equipes de segurança não conseguem acompanhar.

Michael Freeman, da Armis, uma empresa de cibersegurança, disse que o OpenClaw foi montado às pressas sem nenhum plano de segurança real. Ele disse que alguns dos clientes da Armis já foram atingidos por violações do OpenClaw, mas não compartilhou os detalhes. Michael disse que as empresas terão que abrir mão de algum controle se quiserem continuar usando ferramentas de IA como o OpenClaw.

Por enquanto, a pergunta é se as pessoas ainda usarão o OpenClaw após esse desastre. A ferramenta tem fãs, mas até essas pessoas estão percebendo que liberdade sem segurança é um problema. E, a menos que mudanças sejam feitas rapidamente, o OpenClaw pode se tornar o último exemplo de tecnologia que foi longe demais.