Los cibercriminales explotan las tecnologías de IA y ML con fines maliciosos

Un nuevo documento de investigación elaborado conjuntamente por Trend Micro, el Instituto de Investigación Criminal e Interregional de las Naciones Unidas (UNICRI) y Europol revela cómo los cibercriminales están explotando las tecnologías de inteligencia artificial (IA) y aprendizaje automático (ML) con fines maliciosos.

IA y ML en los negocios

La IA y el ML están impulsando rápidamente el desarrollo de un mundo más dinámico. Estas tecnologías prometen una mayor eficiencia, niveles más altos de automatización y autonomía. La IA es una tecnología de doble uso en el corazón de la cuarta revolución industrial. Con el ML, un subcampo de la IA que analiza grandes volúmenes de datos para encontrar patrones mediante algoritmos, las empresas, organizaciones y gobiernos pueden realizar hazañas impresionantes que impulsan la innovación y mejoran los negocios. El 37 % de las empresas y organizaciones ya habían integrado la IA en sus sistemas y procesos para 2020. Las herramientas impulsadas por IA y ML permiten a las empresas predecir mejor los comportamientos de compra de los clientes, lo que contribuye a aumentar los ingresos. Algunas empresas, como Amazon, han construido negocios altamente rentables con la ayuda de herramientas impulsadas por ML e IA.

Usos indebidos y abusos de la IA y el ML

Si bien la IA y el ML pueden apoyar a las empresas y ayudar a resolver algunos de los mayores desafíos de la sociedad, estas tecnologías también pueden habilitar una amplia gama de amenazas digitales, físicas y políticas. Las características que hacen que los sistemas de IA y ML sean integrales para los negocios son las mismas que los cibercriminales mal utilizan y abusan para obtener ganancias ilícitas.

*Deepfakes*: Un abuso popular de la IA son los deepfakes, que implican el uso de técnicas de IA para crear o manipular contenido de audio y visual para que parezca auténtico. Los deepfakes son adecuados para campañas de desinformación porque son difíciles de diferenciar del contenido legítimo. Los deepfakes tienen el potencial de distorsionar la realidad con fines nefastos, como se vio en un video deepfake alegado que desestabilizó a un gobierno de coalición en Malasia y un audio deepfake que engañó a una empresa energética con sede en el Reino Unido para transferir casi 200.000 libras esterlinas a una cuenta bancaria húngara.

*Adivinación de contraseñas con apoyo de IA*: Los cibercriminales están empleando el ML para mejorar los algoritmos de adivinación de contraseñas de los usuarios. Con redes neuronales y Redes Generativas Antagónicas (GANs), los cibercriminales pueden analizar vastos conjuntos de datos de contraseñas y generar variaciones de contraseñas que se ajusten a la distribución estadística, lo que lleva a adivinanzas de contraseñas más precisas y dirigidas.

*Suplantación de identidad humana en plataformas de redes sociales*: Los cibercriminales están abusando de la IA para imitar el comportamiento humano en las plataformas de redes sociales. Por ejemplo, los bots con apoyo de IA en Spotify pueden imitar patrones de uso similares a los humanos para engañar a los sistemas de detección de bots y generar transmisiones fraudulentas y tráfico para artistas específicos.

*Ataques informáticos con apoyo de IA*: Los cibercriminales están armizando los marcos de IA para atacar hosts vulnerables. Por ejemplo, DeepExploit, una herramienta de pruebas de penetración habilitada para ML, y PWnagotchi 1.0.0, desarrollada para el hacking de Wi-Fi a través de ataques de desautenticación, utilizan modelos de redes neuronales para mejorar el rendimiento del hacking.

Usos indebidos y abusos futuros de la IA y el ML

En el futuro, se espera que los criminales exploten la IA para mejorar el alcance y la escala de sus ataques, evadir la detección y abusar de la IA tanto como vector de ataque como superficie de ataque. La IA puede automatizar los primeros pasos de un ataque a través de la generación de contenido, mejorar la recopilación de inteligencia empresarial y acelerar la tasa de detección a la que se comprometen tanto las víctimas potenciales como los procesos empresariales. La IA también puede ser abusada para manipular las prácticas de negociación de criptomonedas y dañar o infligir daño físico a individuos, como se vio en drones con reconocimiento facial impulsados por IA que transportan explosivos.

Las tecnologías de IA y ML tienen muchos casos de uso positivos, pero también están siendo abusadas con fines criminales y maliciosos. Es esencial comprender las capacidades, escenarios y vectores de ataque que demuestran cómo se están explotando estas tecnologías para proteger los sistemas, dispositivos y el público en general de ataques y abusos avanzados.

Acerca de la investigación

El documento de investigación, titulado “Usos maliciosos y abusos de la inteligencia artificial”, es un esfuerzo conjunto entre Trend Micro, el Instituto de Investigación Criminal e Interregional de las Naciones Unidas (UNICRI) y Europol. Discute los usos maliciosos y abusos actuales de las tecnologías de IA y ML, así como los escenarios futuros plausibles en los que los cibercriminales podrían abusar de estas tecnologías para obtener ganancias ilícitas.

Las tecnologías de IA y ML tienen muchos casos de uso positivos, incluida la percepción visual, el reconocimiento de voz, las traducciones de idiomas, la extracción de patrones y las funciones de toma de decisiones en diferentes campos e industrias. Sin embargo, estas tecnologías también están siendo abusadas con fines criminales y maliciosos. Es esencial comprender las capacidades, escenarios y vectores de ataque que demuestran cómo se están explotando estas tecnologías para proteger los sistemas, dispositivos y el público en general de ataques y abusos avanzados.