Google detecta la primera explotación de día cero construida con asistencia de IA
- Google encontró el primer exploit de día cero conocido que cree fue construido utilizando IA.
- El exploit tiene como objetivo la autenticación de dos factores (2FA) en una herramienta de administración de código abierto.
- Hackers patrocinados por estados de China y Corea del Norte están utilizando activamente modelos de IA para la investigación de vulnerabilidades y el desarrollo de exploits.
El Grupo de Inteligencia de Amenazas de Google dijo el domingo que detectó lo que cree que es la primera explotación de día cero construida con la ayuda de un modelo de IA.
Un grupo criminal de hackers lo escribió como un script de Python para evitar la autenticación de dos factores (2FA) en una herramienta de administración web de código abierto, según un informe que Google publicó en su Cloud Blog. La compañía trabajó con el proveedor para detener la explotación masiva antes de que comenzara.
Google vinculó la explotación con la IA a través de patrones de código
Google no culpó a su propio modelo Gemini. Los analistas señalaron patrones estructurales en el código que sugieren fuertemente la participación de la IA.
«Basado en la estructura y el contenido de estas vulnerabilidades, tenemos alta confianza en que el actor probablemente aprovechó un modelo de IA para apoyar el descubrimiento y la weaponización de esta vulnerabilidad», escribió Google .
El script de Python tenía docstrings educativos inusualmente detallados, una puntuación de severidad CVSS alucinada y un formato típico de la salida de un modelo de lenguaje grande.
Eso incluye menús de ayuda estructurados y una clase de color limpia escrita en estilo de libro de texto.
Google no ha nombrado al grupo de hackers ni a la herramienta específica que fue objetivo.
Hackers respaldados por el estado utilizan modelos de IA para la investigación de vulnerabilidades
El informe de Google va más allá del caso único de día cero.
Hackers vinculados a China y Corea del Norte han mostrado un fuerte interés en usar la IA para encontrar y aprovechar las fallas de software, según el Grupo de Inteligencia de Amenazas de Google.
Un grupo de amenazas chino conocido como UNC2814 ataca objetivos de telecomunicaciones y gobierno. El grupo utilizó una técnica que Google llama jailbreaking basado en personalidad.
El grupo instruyó a un modelo de IA para comportarse como un auditor de seguridad senior, luego le dirigió a analizar el firmware de dispositivos integrados de TP-Link y las implementaciones del protocolo de transferencia de archivos Odette en busca de vulnerabilidades de ejecución remota de código.
El grupo instó a un modelo de IA a actuar como un auditor de seguridad senior, luego le dirigió a buscar en el firmware de dispositivos integrados de TP-Link y las implementaciones del protocolo de transferencia de archivos Odette vulnerabilidades de ejecución remota de código.
Un grupo diferente con vínculos con China utilizó herramientas llamadas Strix y Hexstrike para atacar a una empresa tecnológica japonesa y a una importante empresa de ciberseguridad de Asia Oriental.
El grupo norcoreano APT45 adoptó un enfoque diferente. Enviaron miles de instrucciones repetitivas para analizar recursivamente las entradas CVE conocidas y validar exploits de prueba de concepto.
Google afirmó que este método produjo «un arsenal más robusto de capacidades de exploit que sería impráctico gestionar sin la asistencia de la IA».
La IA permite nuevas formas de malware y evasión
El informe de Google abarca otras amenazas de IA más allá de la investigación de vulnerabilidades.
Los piratas informáticos rusos sospechosos han utilizado la IA para codificar y construir malware polimórfico y redes de ofuscación. Ese malware acelera los ciclos de desarrollo y les ayuda a evadir la detección.
Google también advirtió sobre un tipo de malware que denomina PROMPTSPY, que describió como un cambio hacia operaciones de ataque autónomas. El malware utiliza modelos de IA para interpretar los estados del sistema y generar dinámicamente comandos para manipular los entornos de las víctimas. Los atacantes pueden delegar las decisiones operativas en el propio modelo.
Los actores de amenazas ahora adquieren acceso anónimo de nivel premium a modelos de lenguaje a través de middleware especializado y sistemas automatizados de registro de cuentas. Estos servicios permiten a los hackers eludir las restricciones de uso en masa utilizando cuentas de prueba para financiar sus actividades.
Un grupo que Google rastrea como TeamPCP, también conocido como UNC6780, ha comenzado a dirigirse a las dependencias de software de IA como punto de entrada a redes más amplias. Utilizan herramientas de IA comprometidas como punto de apoyo para el despliegue de ransomware y el chantaje.
Google dijo que utiliza sus propias herramientas de IA de manera defensiva. La compañía mencionó Big Sleep, un agente de IA que identifica vulnerabilidades de software, y CodeMender, que utiliza el razonamiento de Gemini para parchear automáticamente las fallas.
Google también indicó que desactiva las cuentas que se detectan utilizando Gemini con fines maliciosos.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿Qué exploit de día cero detectó Google?
Google detectó un exploit basado en Python destinado a eludir la 2FA en una herramienta de administración web de código abierto. La empresa trabajó con el proveedor para evitar una explotación generalizada antes de que ocurrieran los ataques. El exploit fue desarrollado por una organización criminal de hacking y estaba destinado a su despliegue en una operación de explotación generalizada.
¿Qué grupos de hackers están utilizando la IA para ciberataques?
El informe de Google reveló actividades de grupos chinos como UNC2814, el grupo norcoreano APT45, actores sospechosos afiliados a Rusia que desarrollan malware polimórfico, y un grupo orientado a la cadena de suministro denominado TeamPCP, también conocido como UNC6780.
¿Cómo determinó Google que el exploit fue generado por IA?
Los analistas de Google encontraron indicadores estructurales en el código, incluidos docstrings educativos detallados, una puntuación CVSS alucinada y patrones de formato típicos de datos de entrenamiento de LLM. El script presentaba convenciones de Python de estilo de libro de texto y menús de ayuda estructurados, característicos de la salida de IA.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Randa Moses
Randa Moses es editora y reportera en Cryptopolitan, donde cubre tecnología, IA, robótica, criptomonedas, estafas y ciberataques. Ha trabajado en el espacio de las criptomonedas desde 2017. Ocupó cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa posee un grado en Ingeniería Eléctrica y Electrónica de la Universidad de Bradford.
