Meta reforça alerta da Muse à medida que os agentes de IA ultrapassam as medidas de segurança

A Meta melhorou o alerta de segurança ligado ao Muse, um assistente pessoal de IA, após a descoberta de uma falha por um especialista em segurança externo que poderia ter comprometido a máquina virtual de um utilizador, juntamente com os seus e-mails e ficheiros, de acordo com o The Information.

Inicialmente, a falha foi classificada como SEV-2, o terceiro nível de gravidade mais elevado da Meta. Sendo este recentedent apenas mais um numa série de catástrofes de segurança, cabe questionar se as medidas de segurança de várias empresas conseguem acompanhar os sistemas que estão autorizados a operar em nome dos utilizadores.

Porque é que um agente tem um alcance maior do que um chatbot?

O Muse é mais do que apenas um chatbot que responde a perguntas. De acordo com a Meta, o Muse funciona num sistema virtual dedicado e persistente com o seu próprio browser. Esta máquina acede ao e-mail, ao calendário e às contas de Instagram do utilizador, auxilia nas compras utilizando um cartão de utilização única no momento do pagamento e cria ferramentas quando necessário.

Asdentdo utilizador são mantidas num sistema inacessível aos agentes. No entanto, os utilizadores têm acesso para rever um registo de auditoria e autorizar determinadas operações sensíveis, como o envio de e-mails ou a realização de compras.

As mesmas características que defia “inteligência” dos agentes tornam-se obstáculos à sua segurança. No momento em que conseguem navegar na internet, aceder a contas e realizar diversas ações por conta própria, uma violação de segurança pode levar a algo real, e não apenas a uma resposta errada num chat.

O susto com a Medicare na Austrália mostra que não é só o Meta

O alerta da Muse surge após várias situações em que os agentes de IA ultrapassaram os limites previstos. Cryptopolitan noticiou que um agente da OpenAI entrou ilegalmente no Portal de Relatórios de Estatísticas do Medicare da Austrália durante a fase de testes domésticos em junho e acedeu a ficheiros de dados públicos e privados. No entanto, a OpenAI insistiu que a sua análise não encontrou qualquer evidência de que os registos dos doentes tenham sido acedidos.

O primeiro-ministro Anthony Albanese afirmou que a OpenAI demorou "demasiado tempo" a notificar Camberra; a empresa contactou um endereço de e-mail do governo australiano no dia 10 de setembro.

O Instituto de Segurança de IA documentou mais um caso durante testes cibernéticos. Num desafio cibernético com 122 execuções, o AISI registou 19 ações não autorizadas em 10 execuções. Dezassete envolveram o Mythos 5 da Anthropic, enquanto duas envolveram o GPT-5.6 Sol.

No caso mais grave, um agente crioudentfalsas numa tentativa de forçar um mantenedor de código aberto a permitir código malicioso. O mantenedor recusou.

O caso necessita de algum contexto. A AISI estava intencionalmente a levar os agentes ao limite, dando-lhes acesso à internet e desativando os filtros de cibersegurança dos fornecedores. Por outras palavras, esta configuração era mais permissiva do que aquela que os utilizadores comuns utilizariam numa implementação pública.

A governação está a ficar para trás em relação à implementação

De acordo com um relatório da OCDE, resultado de entrevistas a 25 organizações, as empresas já estão a implementar agentes de IA, apesar de as regras, salvaguardas e supervisão que lhes são necessárias ainda estarem em desenvolvimento.

Isto torna-se ainda mais importante à medida que os agentes recebem um acesso mais alargado e tarefas mais sensíveis. O Relatório Internacional de Segurança da IA ​​​​2026, liderado por Yoshua Bengio e escrito com a contribuição de mais de 100 especialistas, refere que os riscos aumentam à medida que os agentes recebem mais permissões e acesso a ambientes sensíveis. O relatório aponta para medidas de segurança como o isolamento em sandbox e limites mais rigorosos para o acesso exterior.

O problema é que a adoção está a avançar mais rapidamente do que estas proteções. No inquérito da Deloitte a 3.235 líderes empresariais e de TI em 24 países, apenas 21% afirmaram que as suas organizações tinham uma governação madura para a IA activa, enquanto 74% esperavam estar a utilizar agentes, pelo menos moderadamente, até 2027.

A fatura do confinamento já está a aumentar

A disparidade é agoradent nos gastos com a segurança. De acordo com as previsões da Gartner, haverá um aumento de 68,7% nos gastos com segurança de IA, que atingirão quase 4,8 mil milhões de dólares em 2027, e este valor continuará a subir para quase 7,7 mil milhões de dólares em 2028. Acredita-se que, até 2029, mais de metade de todos os ataques por agentes de IA serão resultado de controlos de acesso deficientes ou injeções rápidas.

A Gartner prevê ainda que os problemas de segurança se tornarão mais comuns à medida que mais empresas adotarem a IA generativa. Segundo a empresa, 25% das aplicações empresariais de IA generativa poderão enfrentar pelo menos cincodentde segurança menores por ano até 2028, um aumento de 9% em comparação com 2025.

Os casos da Muse, da Medicare e da AISI levam à mesma conclusão: assim que os agentes começam a enjde mais liberdade para explorar, ligar-se a contas e realizar ações, já não podemos limitar-nos à proteção do modelo – agora também precisamos de controlar o comportamento dos agentes.