El malware mejorado con IA representa una amenaza creciente, advierte el NCSC del Reino Unido

El Centro Nacional de Ciberseguridad (NCSC) del Reino Unido ha emitido una advertencia sobre la posibilidad de que el malware basado en IA se convierta en una amenaza significativa para 2025. En un informe reciente, el NCSC, organismo dependiente de la Sede de Comunicaciones del Gobierno (GCHQ), declaró que existe una "posibilidad realista" de que actores estatales altamente capacitados utilicen IA para generar malware que eluda los filtros de seguridad actuales. Este desarrollo podría marcar el comienzo de una nueva era de ciberamenazas, que abarca desde el descubrimiento de dispositivos vulnerables hasta el análisis de datos, e incluso ataques de ingeniería social.

Malware generado por IA en el horizonte

El informe del NCSC destaca que la IA tiene el potencial de producir malware capaz de eludir las medidas de seguridad existentes, pero requiere datos de explotación de alta calidad para su entrenamiento. La agencia cree que algunas entidades estatales altamente capacitadas podrían poseer repositorios de malware lo suficientemente extensos como para entrenar eficazmente modelos de IA para este propósito. Si bien se espera que los ciberataques más avanzados impulsados ​​por IA surjan en 2026 o después, quienes adopten tempranamente herramientas de IA generativa probablemente serán los atacantes más capaces.

El impacto de la IA en los dispositivos vulnerables y el análisis de datos

El NCSC predice que la IA facilitará a los atacantes descubrir dispositivos vulnerables, reduciendo el tiempo disponible para que los defensores los parcheen antes de explotarlos. Además, la IA mejorará el análisis de datos en tiempo real, permitiendo a los atacantesdentarchivos valiosos rápidamente, aumentando la eficiencia de las estrategias de disrupción, extorsión y espionaje.

El informe señala que la experiencia, el equipo, los recursos financieros y el acceso a datos de calidad son esenciales para aprovechar la IA avanzada en las operaciones cibernéticas. Los actores estatales altamente capacitados son los más capacitados para aprovechar el potencial de la IA en ciberataques sofisticados. Sin embargo, se espera que incluso los atacantes con habilidades y recursos limitados se beneficien de los avances de la IA en los próximos cuatro años.

La IA empodera a los ciberdelincuentes

En el extremo inferior del espectro, se prevé que los ciberdelincuentes que emplean ataques de ingeniería social utilicen herramientas de IA generativa de consumo, como ChatGPT, Google Bard y Microsoft Copilot. Esto podría resultar en intentos de phishing más convincentes y localizados. Además, las bandas de ransomware pueden usar IA para el análisis de datos, lo que facilita la identificación de datos valiosos paradentintentos de extorsión de datos más eficaces.

Desafíos para los profesionales de la ciberseguridad

El NCSC predice que los ciberataques impulsados ​​por IA aumentarán en volumen e impacto durante los próximos dos años, lo que intensificará los desafíos que enfrentan los profesionales de la ciberseguridad. Estos profesionales ya se enfrentan a amenazas en constante evolución, y se espera que la IA desempeñe un papel importante en la configuración del panorama de amenazas.

El NCSC sigue de cerca el desarrollo de la IA en ciberamenazas. La conferencia anual CYBERUK de la agencia, que se celebrará en mayo, se centrará en la considerable amenaza que representan las tecnologías emergentes para la seguridad nacional. La directora ejecutiva saliente, Lindy Cameron, enfatizó la necesidad de gestionar los riesgos de la IA y, al mismo tiempo, aprovechar su potencial para un desarrollo responsable.

Esfuerzos globales para abordar los riesgos de seguridad de la IA

La advertencia del NCSC surge tras la Cumbre inaugural sobre Seguridad de la IA celebrada en el Reino Unido, que dio lugar a la Declaración de Bletchley, una iniciativa global para gestionar los riesgos de la IA. Como parte de este esfuerzo, los principales desarrolladores de IA se han comprometido a compartir código con los gobiernos para garantizar un desarrollo responsable de la IA.

Si bien el plan de pruebas de IA es un paso en la dirección correcta, no es legalmente vinculante y carece del respaldo de ciertos países. Esto plantea dudas sobre su eficacia para abordar la creciente amenaza de ciberataques impulsados ​​por IA.

La advertencia del NCSC subraya el cambiante panorama de amenazas en el ciberespacio, donde el malware potenciado por IA se vislumbra en el horizonte. Con el potencial de evadir las medidas de seguridad actuales, la IA plantea desafíos tanto para los profesionales de la ciberseguridad como para los gobiernos y las organizaciones. Mientras el mundo lidia con las implicaciones de la IA en las ciberamenazas, la vigilancia y la cooperación internacional serán esenciales para anticiparse a las amenazas emergentes.