El auge de los chatbots maliciosos de IA: los actores de amenazas abrazan los 'Hackbots'

La ola de popularidad de la IA ha barrido tanto a aquellos con buenas intenciones como a aquellos con intenciones que podrían ser más siniestras. Los especialistas en seguridad están sonando la alarma, señalando que el uso de tales modelos, la generación de texto malicioso, o los 'hackbots', ahora es famoso entre los actores de amenazas. Ha alcanzado el nivel de un servicio llave en mano en servicios basados en suscripción.

Criminales cibernéticos aprovechando herramientas de IA

Por un lado, los expertos en ciberseguridad se han dado cuenta rápidamente del potencial de las herramientas habilitadas por IA para proteger mejor sus sistemas. Los actores de amenazas también han mostrado una igual ansia por utilizar estas tecnologías para aprovechar las brechas de seguridad dejadas por aquellos a los que atacan. En los últimos años, ha habido un aumento exponencial en el número de aplicaciones de IA utilizadas por actores maliciosos, lo que ha traído la atención de los equipos de seguridad a un enfoque suficiente para reducir las amenazas relacionadas con la IA.

Por otro lado, los especialistas británicos en ciberseguridad también indicaron a la IA como un nuevo riesgo emergente que conlleva aguas inexploradas y su naturaleza en constante cambio. NCSC predice que 2024, el primer trimestre, será el más grande y superará con éxito los récords de 2022 y 2023. Los criminales inteligentes también utilizaron modelos de lenguaje para ingeniería social, lo que requería que las celebridades fueran colocadas en un entorno de video o audio utilizando esquemas de phishing o dispositivos de reconocimiento de voz. Vascut Jakkal, el vicepresidente de seguridad de Microsoft Corporation, asistió a la Conferencia RSA 2024. El problema no es la deterioración de estas herramientas, sino su creciente disponibilidad generalizada para el crackeo de contraseñas, lo que está vinculado 10 veces al crecimiento de los ataques relacionados con la identidad.

Algunos expertos han concluido además que los chatbots utilizan una frase única para desarrollar activamente malware. De hecho, servicios públicamente disponibles como ChatGPT y Gemini han implementado salvaguardas para prevenir su mal uso con fines maliciosos. Sin embargo, los hackers han eludido muchas protecciones a través de técnicas sofisticadas de ingeniería de prompts.

Hackbot-como-servicio: la tendencia creciente en el cibercrimen

Según estudios recientes, los modelos de lenguaje públicamente visibles típicamente fallan al abusar de las debilidades de seguridad del software. Sin embargo, solo el GPT-4 de OpenAI ha mostrado características prometedoras, ya que podría producir ejecutables para vulnerabilidades conocidas. Las restricciones anteriores parecen haber fomentado probablemente la producción de chatbots maliciosos prototípicos diseñados para ayudar a los perpetradores del cibercrimen a llevar a cabo sus actividades maliciosas. 

Se están anunciando en los foros y mercados de la dark web, que ofrecen el poder de contratar y explotar a los atacantes, alimentando un modelo de hackbot-como-servicio. Uno de los últimos artículos de blog publicados por el equipo de Trustwave SpiderLabs en agosto de 2023 ilustra el aumento del volumen de modelos de lenguaje maliciosos alojados en múltiples tableros de mensajes web ocultos para beneficio.

Trustwave publicó el modelo WormGPT en junio de 2021, uno de los modelos de lenguaje maliciosos conocidos de estos hackers. Este enfoque puede ocurrir en equipos donde los bots inyectan ciberataques mediante estructuras de hacking alojadas en la dark web. Generado en julio de 2023, FraudGPT fue descubierto primero por investigadores de amenazas en Netenrich antes de llegar a Telegram.

Estas herramientas permiten a los atacantes diseñar activos utilizados en ataques de ingeniería social, como correos electrónicos de phishing, deepfakes y clonación de voz. Sin embargo, sus creadores afirman que su verdadero valor radica en explotar vulnerabilidades. Permiten a los hackers alimentar código sobre vulnerabilidades específicas en estos modelos maliciosos, lo que teóricamente podría producir varias pruebas de concepto (PoC) exploits para que un atacante intente.

Estos productos se venden en los mercados encubiertos de la dark web donde a los hackers se les cobra una tarifa de licencia mensual para usar el hackbot, al igual que el ransomware se entrega en el modelo ransomware-como-servicio (raas) que está directamente conectado a un complejo de ransomware que muchas empresas enfrentan hoy en día.

Mientras que WormGPT es el primer modelo de lenguaje malicioso a gran escala introducido, otros modelos de lenguaje maliciosos y no éticos como BlackHatGPT, XXXGPT y WolfGPT pronto siguieron, formando un nuevo segmento de mercado del mercado negro cibernético.

La eficacia de los Hackbots: ¿Hype o amenaza genuina?

En contraste con la investigación realizada por Trustwave, que se hizo para probar la eficiencia de las herramientas recomendadas comparando sus salidas una al lado de la otra versus las generadas por chatbots legítimos, los hallazgos indicaron que ChatGPT podría ser efectivamente hecho para crear algún malware de Python con los prompts adecuados. Para hacerlo, el mensaje tenía que enviarse a la materia afirmando que el código era de sombrero blanco antes del despliegue, y la salida del código también necesitaba modificaciones adicionales.

ChatGPT puede ser capaz de pasar mensajes de texto reales para ataques de phishing, pero el comando de instrucción debe ser muy específico para este efecto. ChatGPT se basará generalmente en esto solo cuando los usuarios soliciten algo incorrecto. Debido a este hecho, estos chatbots pueden verse como un método más simple para que los ciberdelincuentes o la IA ataquen a los chatters en lugar de trabajar tediosamente para crear una página o malware.

Mientras esta industria es nueva y las amenazas aún están en flujo, las empresas deben ser realmente conscientes de sus niveles actuales de protección. El contenido y las características culturales con las que están inundados los sistemas de IA pueden ser abusados para crear una brecha de desinformación que solo puede ser puenteada mediante la creación de programas de seguridad de IA más fuertes y herramientas de gestión de identidad.

La legitimidad de las soluciones para el problema creciente aún está siendo debatida. Sin embargo, las recientes cepas de ransomware han demostrado que los ciberdelincuentes pueden igualar, si no exceder, la velocidad de desarrollo de los desarrolladores de software.