Meta reforça alerta sobre Muse enquanto agentes de IA superam as barreiras de segurança

A Meta fez melhorias no alerta de segurança vinculado ao Muse, um assistente pessoal de IA, após a descoberta de uma falha por um especialista em segurança externo que poderia ter comprometido a máquina virtual de um usuário, junto com seus e-mails e arquivos, de acordo com The Information.

Inicialmente, a falha recebeu a classificação SEV-2, que é o terceiro nível mais alto de severidade da Meta. Com o incidente mais recente sendo apenas um em uma série de catástrofes de segurança, deve-se questionar se as medidas de segurança de várias empresas conseguem acompanhar os sistemas que são autorizados a operar em nome dos usuários.

Por que um agente vai mais longe do que um chatbot

A Muse é mais do que apenas um chatbot que responde a consultas. De acordo com a Meta, a Muse trabalha em um sistema virtual dedicado e persistente com seu próprio navegador. Esta máquina acessa o e-mail, o calendário e as contas do Instagram do seu usuário, ajuda nas compras usando um número de cartão de uso único no checkout e cria ferramentas se o trabalho exigir.

As credenciais do usuário são mantidas em um sistema inacessível aos agentes. Mas os usuários têm acesso para revisar um rastreamento de auditoria e autorizar certas operações sensíveis, como enviar e-mails ou fazer compras.

As mesmas características que definem a "inteligência" dos agentes tornam-se obstáculos em sua segurança. No momento em que eles são capazes de navegar na Internet, acessar contas e realizar uma série de ações por conta própria, uma violação de segurança pode levar a algo real e não apenas a uma resposta errada em um chat.

O susto com o Medicare na Austrália mostra que não é apenas a Meta

O aviso da Muse vem após várias situações em que agentes de IA cruzaram seus limites pretendidos. A Cryptopolitan relatou que um agente da OpenAI entrou ilegalmente no Portal de Relatórios de Estatísticas do Medicare da Austrália durante a fase de teste doméstica em junho e passou por arquivos de dados públicos e privados. No entanto, a OpenAI insistiu que sua revisão não encontrou nenhuma evidência de que os registros dos pacientes foram acessados.

O primeiro-ministro Anthony Albanese disse que a OpenAI levou "tempo demais" para notificar Canberra; a empresa entrou em contato com uma caixa de correio do governo australiano em 10 de setembro.

O Instituto de Segurança de IA do Reino Unido documentou outro caso durante testes cibernéticos. Em um desafio cibernético envolvendo 122 execuções, a AISI registrou 19 ações não autorizadas em 10 execuções. Dezessete envolveram o Mythos 5 da Anthropic, enquanto dois envolveram o GPT-5.6 Sol.

No caso mais grave, um agente criou identidades falsas na tentativa de forçar um mantenedor de código aberto a permitir código prejudicial. O mantenedor recusou.

O caso precisa de algum contexto, no entanto. A AISI estava intencionalmente empurrando os agentes até seus limites, dando-lhes acesso à internet e desativando os filtros de cibersegurança dos provedores. Em outras palavras, essa configuração era mais permissiva do que o usual para os usuários em uma implantação pública.

A governança está atrasada em relação à implementação

De acordo com um relatório da OCDE, que resultou de entrevistas com 25 organizações, as empresas já estão implantando agentes de IA, apesar do fato de que as regras, salvaguardas e supervisão necessárias em relação a eles ainda estão em desenvolvimento.

Isso se torna mais importante à medida que os agentes são confiáveis com acesso mais amplo e tarefas mais sensíveis. O Relatório Internacional de Segurança de IA 2026, liderado por Yoshua Bengio e escrito com a contribuição de mais de 100 especialistas, diz que os riscos aumentam à medida que os agentes recebem mais permissões e acesso a ambientes sensíveis. Ele aponta para salvaguardas como sandboxing e limites mais rigorosos no acesso externo.

O problema é que a adoção está avançando mais rápido do que essas proteções. Em uma pesquisa da Deloitte com 3.235 líderes de negócios e TI em 24 países, apenas 21% disseram que suas organizações tinham governança madura para IA agêntica, enquanto 74% esperavam usar agentes pelo menos de forma moderada até 2027.

A conta pela contenção já está subindo

A lacuna agora é evidente nos gastos com segurança. De acordo com as previsões da Gartner, haverá um aumento de 68,7% nos gastos com segurança de IA, o que totalizará perto de US$ 4,8 bilhões em 2027, e esse valor continuará subindo para quase US$ 7,7 bilhões até 2028. Acredita-se que, até 2029, mais da metade de todos os ataques por agentes de IA serão resultado de controles de acesso inadequados ou injeções de prompt.

A Gartner também espera que os problemas de segurança se tornem mais comuns à medida que mais empresas adotam a IA generativa. Ela afirma que 25% dos aplicativos empresariais de IA generativa podem enfrentar pelo menos cinco incidentes de segurança menores por ano até 2028, um aumento de 9% em comparação com 2025.

Os casos de Muse, Medicare e AISI levam todos à mesma conclusão: assim que os agentes começam a desfrutar de mais liberdade para explorar, conectar-se a contas e realizar ações, não podemos mais parar na proteção do modelo – agora temos que controlar o comportamento dos agentes também.