Hassabis, de Google DeepMind, afirma que los recientes incidentes de hackeo con IA son señales de alerta temprana
- Demis Hassabis, co-fundador y chairman de Google DeepMind, declaró en la Cumbre Internacional de IA en Dublín que los recientes incidentes de hacking por parte de agentes de IA autónomos son señales de advertencia temprana de mayores amenazas por venir.
- Quiere que las empresas y gobiernos prueben los agentes en sandboxes seguros y fortalezcan las defensas ahora, antes de que la tecnología sea lo suficientemente capaz como para causar daños graves.
- Sus comentarios, respaldados por Brad Smith de Microsoft, aumentan la presión por reglas más claras de seguridad de IA.
El presidente de Google DeepMind, Demis Hassabis, ha emitido una advertencia en una cumbre sobre inteligencia artificial en Dublín, señalando que los recientes ataques informáticos que involucran agentes de IA autónomos podrían ser señales tempranas de amenazas de seguridad más graves. Instó a las empresas y gobiernos a reforzar sus defensas antes de que la tecnología de IA se vuelva más capaz.
Hassabis, cofundador de DeepMind y científico jefe de Alphabet, mantuvo un equilibrio entre el optimismo sobre el potencial científico de la IA y las advertencias sobre sus riesgos de seguridad durante la Cumbre Internacional de IA.
Se mencionaron hacks realizados por agentes de IA autónomos que no causaron daños graves pero expusieron riesgos de seguridad subyacentes, enfatizando que estos problemas no deben ignorarse, ya que los sistemas "aún no están sanos".
Hassabis afirmó que la tecnología aún no es lo suficientemente poderosa como para que estos incidentes hayan causado daños mayores.
El presidente de DeepMind quiere que los defensores estén bien armados primero
Hassabis señaló que los equipos de seguridad necesitan tener una ventaja antes de que las herramientas de IA lleguen al público. «Creo que una de las cosas más importantes que debemos hacer es dotar asimétricamente de poder a los defensores y confiar en ellos», declaró. Añadió que los mismos sistemas deberían ayudar a detectar y corregir vulnerabilidades de software antes de su lanzamiento.
Hassabis instó a las empresas y gobiernos a crear entornos seguros (sandboxes) y probar exhaustivamente los agentes autónomos antes de su lanzamiento. También sugirió recurrir a expertos en tecnología nuclear y biología, campos con experiencia en la gestión de sistemas peligrosos, para desarrollar formas de contener los riesgos de la IA.
El cofundador de DeepMind también advirtió sobre el desajuste, el riesgo de que los agentes de IA se desvíen de los objetivos de sus operadores. «Aumenta los riesgos asociados con lo que estos sistemas podrían hacer, como hemos visto recientemente», dijo en la cumbre.
Hassabis propuso un organismo internacional de estándares para establecer salvaguardias para la IA avanzada, mientras subrayaba que cualquier marco debe mantenerse al día con la tecnología sin asfixiar la investigación. También propuso un proceso de certificación basado en los posibles riesgos que evolucione a medida que surjan nuevas capacidades y vulnerabilidades.
El presidente de Microsoft, Brad Smith, afirmó que 2026 fue un "año sobrecogedor" para la seguridad de la IA y exhortó a los reguladores globales a mantenerse al día con el desarrollo de la IA. Añadió que ninguna empresa o tecnología debería estar por encima de la ley, como informó previamente Cryptopolitan.
El optimismo de un laureado con el Nobel
Hassabis ganó el Premio Nobel de Química 2024 junto con John Jumper por desarrollar un modelo de IA que predice las estructuras de casi todos los 200 millones de proteínas conocidas. Según la Real Academia Sueca de Ciencias, esta tecnología ya está ayudando a los investigadores a estudiar la resistencia a los antibióticos y diseñar enzimas que degradan el plástico.
Su historial en el uso de la IA respaldó sus declaraciones en Dublín, donde Hassabis describió a la IA como una tecnología de doble uso que puede ayudar a tratar enfermedades y realizar muchas hazañas, pero que también puede ser explotada por actores malintencionados.
Argumentó que las medidas de seguridad deberían proteger los beneficios potenciales de la IA a largo plazo, sin obstaculizarlos por completo.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Opeyemi Olanrewaju
Opeyemi se especializa en crear y refinar contenido de alta calidad centrado en criptomonedas, mercados financieros globales y la economía. Se graduó de la Universidad de Ibadan con un título de MBBS. Ha trabajado como Editor Jefe de la publicación editorial de su universidad y anteriormente en CFA. Durante más de seis años, ha ayudado a salvaguardar la originalidad como editor de noticias en Cryptopolitan.
