Hassabis, da Google DeepMind, diz que recentes incidentes de hacking com IA são sinais de alerta
- Demis Hassabis, co-fundador e chairman do Google DeepMind, disse na Cúpula Internacional de IA em Dublin que os recentes incidentes de hacking por agentes de IA autônomos são sinais de alerta precoce de ameaças maiores que estão por vir.
- Ele quer que empresas e governos testem os agentes em sandboxes seguros e fortaleçam as defesas agora, antes que a tecnologia se torne capaz de causar danos sérios.
- Seus comentários, ecoados por Brad Smith, da Microsoft, aumentam a pressão por regras mais claras de segurança da IA.
O presidente do Google DeepMind, Demis Hassabis, emitiu um alerta durante uma cimeira de IA em Dublin, afirmando que os recentes ataques envolvendo agentes de IA autónomos podem ser sinais precoces de ameaças de segurança mais graves. Ele instou empresas e governos a reforçar as suas defesas antes que a tecnologia de IA se torne mais capaz.
Co-fundador da DeepMind e cientista-chefe da Alphabet, Hassabis manteve um equilíbrio entre o otimismo quanto ao potencial científico da IA e os avisos sobre os seus riscos de segurança na Cimeira Internacional de IA.
Ele citou ataques realizados por agentes de IA autônomos que não causaram danos graves, mas expuseram riscos de segurança subjacentes, enfatizando que esses problemas não devem ser ignorados, pois os sistemas ainda “não estão saudáveis.”
Hassabis afirmou que a tecnologia ainda não é suficientemente poderosa para que esses incidentes tenham causado danos significativos.
Presidente da DeepMind quer que os defensores estejam equipados primeiro
Hassabis disse que as equipas de segurança precisam de ter vantagem antes que as ferramentas de IA cheguem ao público. «Acho que uma das grandes coisas que precisamos de fazer é dar poder assimétrico aos defensores, confiar nos defensores», afirmou. Acrescentou que os mesmos sistemas devem ajudar a encontrar e corrigir vulnerabilidades de software antes do lançamento.
Hassabis instou empresas e governos a criarem sandboxes seguros e a testarem agentes autônomos exaustivamente antes do lançamento. Ele também sugeriu recorrer a especialistas em tecnologia nuclear e biologia, áreas com experiência no gerenciamento de sistemas perigosos, para desenvolver formas de conter os riscos da IA.
O co-fundador da DeepMind também alertou sobre o desalinhamento, o risco de que os agentes de IA se desviem dos objetivos de seus operadores. “Isso aumenta os riscos envolvidos no que esses sistemas possam fazer, como vimos recentemente”, ele disse na cúpula.
Hassabis propôs um organismo internacional de padrões para estabelecer salvaguardas para IAs avançadas, enfatizando ao mesmo tempo que qualquer estrutura deve acompanhar o ritmo da tecnologia sem sufocar a pesquisa. Ele também propôs um processo de certificação baseado nos potenciais riscos, que evolui conforme novas capacidades e vulnerabilidades surgem.
O presidente da Microsoft, Brad Smith, afirmou que 2026 foi um “ano revelador” para a segurança da IA e instou reguladores globais a acompanharem o desenvolvimento da tecnologia. Ele acrescentou que nenhuma empresa ou tecnologia deve estar acima da lei, conforme relatado anteriormente pela Cryptopolitan.
O otimismo de um laureado com o Nobel
Hassabis ganhou o Prêmio Nobel de Química de 2024 ao lado de John Jumper pelo desenvolvimento de um modelo de IA que prevê as estruturas de quase todos os 200 milhões de proteínas conhecidas. A tecnologia já está ajudando pesquisadores a estudar a resistência aos antibióticos e a projetar enzimas que degradam plásticos, segundo a Academia Real Sueca de Ciências.
Seu histórico no uso da IA orientou suas declarações em Dublin, onde Hassabis descreveu a IA como uma tecnologia de uso duplo: pode ajudar a tratar doenças e realizar muitas explorações, mas também pode ser explorada por atores mal-intencionados.
Ele argumentou que as medidas de segurança devem proteger os benefícios potenciais da IA a longo prazo, sem obstruí-los completamente.
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.
Opeyemi Olanrewaju
Opeyemi é especialista em criar e refinar conteúdo de alta qualidade focado em criptomoedas, mercados financeiros globais e economia. Formou-se pela Universidade de Ibadan com grau de MBBS. Trabalhou como Editor-Chefe da publicação editorial de sua faculdade e anteriormente na CFA. Por mais de seis anos, ajudou a salvaguardar a originalidade como editor de notícias na Cryptopolitan.
