El auge de los chatbots maliciosos de IA: los actores de amenazas adoptan los 'hackbots'

La popularidad de la IA ha calado hondo tanto en quienes tienen buenas intenciones como en quienes podrían tener intenciones más siniestras. Los especialistas en seguridad están dando la voz de alarma, señalando que el uso de estos modelos para la generación de texto malicioso, o "hackbots", se ha vuelto común entre los ciberdelincuentes. Incluso se ha convertido en un servicio integral dentro de las plataformas de suscripción.

Los ciberdelincuentes aprovechan las herramientas de IA

Por un lado, los expertos en ciberseguridad se han percatado rápidamente del potencial de las herramientas basadas en IA para proteger mejor sus sistemas. Los actores de amenazas también han mostrado un interés similar en utilizar estas tecnologías para aprovechar las brechas de seguridad dejadas por sus ataques. En los últimos años, se ha observado un aumento exponencial en el número de aplicaciones de IA utilizadas por actores maliciosos, lo que ha llamado la atención de los equipos de seguridad sobre un enfoque adecuado para reducir las amenazas relacionadas con la IA.

Por otro lado, los especialistas británicos en ciberseguridad también señalaron la IA como un nuevo riesgo emergente que implica territorios inexplorados y su naturaleza en constante cambio. El NCSC predice que el primer trimestre de 2024 será el más grande y superó con éxito los récords de 2022 y 2023. Los astutos delincuentes también utilizaron modelos de lenguaje para la ingeniería social, que consistía en colocar a celebridades en un entorno de video o audio mediante esquemas de phishing o dispositivos de reconocimiento de voz. Vascut Jakkal, vicepresidentedent seguridad de Microsoft Corporation, asistió a la Conferencia RSA 2024. El problema no es el deterioro de estas herramientas, sino su creciente disponibilidad para el descifrado de contraseñas, que está diez veces vinculado al crecimiento dedentlos ataques relacionados con la identidad

Algunos expertos han concluido además que los chatbots utilizan una frase única para desarrollar malware activamente. De hecho, servicios públicos como ChatGPT y Gemini han implementado medidas de seguridad para evitar su uso indebido con fines maliciosos. Sin embargo, los hackers han eludido muchas protecciones mediante técnicas de ingeniería sofisticadas y rápidas.

Hackbot como servicio: la creciente tendencia en el cibercrimen

Según estudios recientes, los modelos de lenguaje visibles públicamente no suelen aprovechar las vulnerabilidades de seguridad del software. Sin embargo, solo GPT-4 de OpenAI ha mostrado características prometedoras, ya que podría generar ejecutables para vulnerabilidades conocidas. Las restricciones mencionadas parecen haber fomentado la creación de chatbots maliciosos prototípicos diseñados para ayudar a los ciberdelincuentes a llevar a cabo sus actividades maliciosas. 

Se anuncian en foros y mercados de la dark web, que ofrecen la posibilidad de contratar y explotar a los atacantes, impulsando un modelo de "hackbot como servicio". Una publicación reciente del blog del equipo de Trustwave SpiderLabs en agosto de 2023 ilustra el creciente volumen de modelos de lenguaje malicioso alojados en múltiples foros web ocultos con fines de lucro.

Trustwave publicó el modelo WormGPT en junio de 2021, uno de los modelos de lenguaje malicioso conocidos de estos hackers. Este enfoque puede ocurrir en equipos donde los bots inyectan ciberataques mediante estructuras de hacking alojadas en la dark web. Generado en julio de 2023, FraudGPT fue descubierto por investigadores de amenazas de Netenrich antes de su llegada a Telegram.

Estas herramientas permiten a los atacantes diseñar recursos que se utilizan en ataques de ingeniería social, como correos electrónicos de phishing, deepfakes y clonación de voz. Sin embargo, sus creadores afirman que su verdadero valor reside en la explotación de vulnerabilidades. Permiten a los hackers introducir código sobre vulnerabilidades específicas en estos modelos maliciosos, lo que, en teoría, podría generar varias pruebas de concepto (PoC) que un atacante podría probar.

Estos productos se venden en los mercados encubiertos de la red oscura, donde a los piratas informáticos se les cobra una tarifa de licencia mensual para usar el hackbot, al igual que el ransomware se distribuye en el modelo de ransomware como servicio (raas), que está directamente conectado a un complejo de ransomware al que se enfrentan muchas empresas hoy en día.

Si bien WormGPT es el primer modelo de lenguaje malicioso a gran escala introducido, pronto le siguieron otros modelos de lenguaje maliciosos y poco éticos como BlackHatGPT, XXXGPT y WolfGPT, formando un nuevo segmento de mercado del mercado negro cibernético.

La eficacia de los hackbots: ¿publicidad exagerada o amenaza real?

A diferencia de la investigación de Trustwave, diseñada para probar la eficiencia de las herramientas recomendadas comparando sus resultados con los generados por chatbots legítimos, los hallazgos indicaron que ChatGPT podía generar malware de Python con las indicaciones adecuadas. Para ello, era necesario enviar un mensaje al asunto, afirmando que el código era de hackers éticos antes de la implementación, y el resultado del código también requería modificaciones adicionales.

ChatGPT puede transmitir mensajes de texto reales para ataques de phishing, pero el comando de instrucción debe ser muy específico. Generalmente, ChatGPT se basará en esto solo cuando los usuarios soliciten algo incorrecto. Por ello, estos chatbots pueden considerarse un método más sencillo para que los ciberdelincuentes o la IA ataquen a los usuarios, en lugar de trabajar tediosamente para crear una página o malware.

Si bien esta industria es nueva y las amenazas aún están en constante evolución, las empresas deben ser plenamente conscientes de sus niveles actuales de protección. El contenido y las características culturales con las que están inundados los sistemas de IA pueden ser objeto de abuso para crear una brecha de desinformación que solo puede subsanarse mediante la creación de programas de seguridad de IA y herramientas de gestión dedenttron.

La legitimidad de las soluciones para este creciente problema aún se debate. Sin embargo, las recientes cepas de ransomware han demostrado que los ciberdelincuentes pueden igualar, o incluso superar, la velocidad de desarrollo de los desarrolladores de software.