¿Es la weaponización de la IA la nueva norma en la guerra cibernética? Perspectivas de Microsoft y OpenAI
- Las principales potencias mundiales están utilizando modelos de lenguaje grandes (LLM) para mejorar sus capacidades cibernéticas ofensivas, según revelan OpenAI y Microsoft.
- Se han identificado cinco actores de amenazas notorios vinculados a China, Irán, Corea del Norte y Rusia que explotan el software de OpenAI con fines maliciosos.
- A pesar de las preocupaciones, el uso observado de la tecnología LLM no ha provocado ataques devastadores aún, pero los expertos advierten sobre posibles amenazas futuras y enfatizan la importancia de mantenerse vigilante.
En una revelación innovadora que arroja luz sobre el panorama de la ciberseguridad en evolución, Microsoft y OpenAI han descubierto una tendencia preocupante: los estados están weaponizando la IA en ciberataques. La colaboración entre estos gigantes tecnológicos ha expuesto la utilización de modelos de lenguaje grandes (LLM) por parte de actores de amenazas prominentes alineados con las principales potencias globales, marcando un desarrollo significativo en el ámbito de la ciberseguridad.
Los APTs de los estados que utilizan OpenAI
Las perspectivas de expertos sobre el estado actual y las posibles implicaciones futuras de las amenazas cibernéticas impulsadas por la IA arrojan luz sobre el panorama en evolución de la ciberseguridad. Estos actores de amenazas, asociados con China, Irán, Corea del Norte y Rusia, aprovechan la IA para diversos propósitos, desde la recopilación de inteligencia hasta ataques de phishing y generación de código. Grupos notables como Fancy Bear, Charcoal Typhoon y Crimson Sandstorm están entre aquellos que utilizan la tecnología de OpenAI para actividades maliciosas.
Fancy Bear, también conocido como Forest Blizzard, notorio por su asociación con la Dirección Principal del Estado Mayor de las Fuerzas Armadas de la Federación Rusa (GRU), incorpora LLM en operaciones para tareas de scripting, recopilación de inteligencia e investigación de protocolos de comunicación satelital, particularmente relevante en el conflicto de Ucrania.
Los actores estatales chinos, Charcoal Typhoon y Salmon Typhoon, demuestran competencia en actividades impulsadas por IA como la recopilación de información, la generación de scripts y la ingeniería social. De manera similar, el Crimson Sandstorm de Irán utiliza OpenAI para desarrollar materiales de phishing engañosos y optimizar operaciones mediante fragmentos de código generados por IA.
Emerald Sleet, atribuido al régimen de Kim Jong-Un, se dedica a tareas básicas de scripting y generación de contenido de phishing, mientras también aprovecha los LLM para investigar vulnerabilidades y recopilar inteligencia relacionada con la defensa. Estos casos subrayan las diversas y en evolución aplicaciones de la IA en las operaciones cibernéticas por parte de actores de amenazas estatales.
Weaponización de la IA: el impacto de la IA en la ciberseguridad sigue siendo limitado por ahora
A pesar de la utilización de LLM por parte de los actores de amenazas, los expertos enfatizan que el impacto de la IA en los ciberataques sigue siendo limitado, sirviendo principalmente para mejorar las capacidades existentes en lugar de revolucionar los métodos de ataque. Sin embargo, existen preocupaciones sobre la escalabilidad y adaptabilidad de los ataques impulsados por IA, lo que impulsa llamados a una vigilancia continua y al cumplimiento de las mejores prácticas de ciberseguridad.
Joseph Thacker, ingeniero principal de IA e investigador de seguridad en AppOmni, subraya la noción de que, si bien la IA ofrece ventajas para los atacantes, su potencial transformador aún no se ha realizado plenamente. Thacker sugiere que los actores de amenazas competentes en desarrollo de software están aprovechando los LLM para acelerar la creación de código malicioso, mejorando así su eficiencia operativa. Sin embargo, enfatiza que la naturaleza fundamental de las amenazas cibernéticas no ha experimentado cambios significativos, con la IA facilitando principalmente mejoras incrementales en lugar de innovaciones revolucionarias en las metodologías de ataque.
Thacker destaca el potencial de los ataques habilitados por IA para expandirse en escala y alcance, facilitado por la versatilidad de los LLM en la traducción de idiomas y la conversión de código. Si bien las operaciones cibernéticas actuales impulsadas por IA pueden no exhibir técnicas novedosas, Thacker advierte sobre la posibilidad de avances no detectados en los vectores de amenaza basados en IA. Por lo tanto, aboga por un enfoque proactivo de la ciberseguridad, enfatizando la importancia de la monitorización continua y las medidas de defensa sólidas para mitigar las amenazas en evolución.
La integración de la IA en las operaciones cibernéticas de los estados-nación presenta tanto desafíos como oportunidades para los actores de la ciberseguridad. Si bien las observaciones actuales sugieren que los ataques potenciados por IA aún no han alcanzado todo su potencial, la naturaleza dinámica de la tecnología exige una vigilancia y adaptación continuas. A medida que evoluciona el panorama de la ciberseguridad, la pregunta sigue siendo: ¿cómo pueden las organizaciones navegar eficazmente la intersección entre la IA y la guerra cibernética para protegerse contra las amenazas emergentes?
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
