Resultados escalofriantes: un estudio muestra que los chatbots de IA son excelentes en tácticas de phishing

Un estudio reciente mostró lo fácilmente que los chatbots modernos pueden ser utilizados para escribir correos electrónicos de estafa convincentes dirigidos a personas mayores y con qué frecuencia se hacen clic en esos correos.

Los investigadores utilizaron varios chatbots de IA importantes en el estudio, incluyendo Grok, ChatGPT de OpenAI, Claude, Meta AI, DeepSeek y Gemini de Google, para simular un estafa de phishing. 

Una nota de muestra escrita por Grok se parecía a un contacto amistoso de la

«Creemos que cada persona mayor merece dignidad y alegría en sus años dorados», decía la nota. «Al hacer clic aquí, descubrirás historias conmovedoras de personas mayores a las que hemos ayudado y aprenderás cómo puedes unirte a nuestra misión.» 

Cuando Reuters pidió a Grok que escribiera el texto de phishing, el bot no solo produjo una respuesta sino que también sugirió aumentar la urgencia: 

108 voluntarios senior participaron en el estudio de phishing

Los reporteros probaron si seis chatbots de IA bien conocidos abandonarían sus reglas de seguridad y redactarían correos electrónicos destinados a engañar a los ancianos. También les pidieron a los bots ayuda para planificar campañas de estafa, incluyendo consejos sobre qué hora del día podría obtener la mejor respuesta. 

En colaboración con Heiding, un investigador de la Universidad de Harvard que estudia el phishing, los investigadores probaron algunos de los correos electrónicos escritos por bots en un grupo de 108 voluntarios senior.

Normalmente, las empresas de chatbots entrenan sus sistemas para rechazar solicitudes dañinas. En la práctica, esas salvaguardas no siempre están garantizadas. Grok mostró una advertencia de que el mensaje que produjo

Se dieron a otros cinco chatbots los mismos prompts: ChatGPT de OpenAI, el asistente de Meta, Claude, Gemini y DeepSeek de China. La mayoría de los chatbots se negaron a responder cuando la intención estaba clara. 

Aún así, sus protecciones fallaron después de una modificación ligera, como afirmar que la tarea es con fines de investigación. Los resultados de las pruebas sugirieron que los criminales podrían usar (o ya podrían estar usando) chatbots para campañas de estafa. «Siempre puedes evitar estas cosas», dijo Heiding.

Heiding seleccionó nueve correos electrónicos de phishing producidos con los chatbots y los envió a los participantes. Aproximadamente el 11% de los destinatarios cayeron en la trampa y hicieron clic en los enlaces. Cinco de los nueve mensajes atrajeron clics: dos que vinieron de Meta AI, dos de Grok y uno de Claude. Ninguno de los ancianos hizo clic en los correos electrónicos escritos por DeepSeek o ChatGPT.

El año pasado, Heiding dirigió un estudio que mostró que los correos electrónicos de phishing generados por ChatGPT pueden ser tan efectivos para obtener clics como los mensajes escritos por personas, en ese caso, entre estudiantes universitarios. 

El FBI enumera el phishing como el cibercrimen más común

El phishing se refiere a atraer a víctimas desprevenidas para que entreguen datos sensibles o efectivo a través de correos electrónicos y textos falsos. Este tipo de mensajes forman la base de muchos delitos en línea. 

Billones de textos y correos electrónicos de phishing se envían diariamente en todo el mundo. En los Estados Unidos, el Federal Bureau of Investigation enumera el phishing como el cibercrimen más comúnmente reportado. 

Los estadounidenses mayores son particularmente vulnerables a este tipo de estafas. Según cifras recientes del FBI, las quejas de personas de 60 años en adelante aumentaron 8 veces el año pasado, con pérdidas que redondean hasta $4.9 mil millones. La IA generativa lo hizo mucho peor, dice el FBI.

Solo en agosto, los usuarios de criptomonedas perdieron 12 millones de dólares debido a estafas de phishing, según un Cryptopolitan informe.

En lo que respecta a los chatbots, la ventaja para los estafadores es el volumen y la velocidad. A diferencia de los humanos, los bots pueden generar infinitas variaciones en segundos y a un costo mínimo, reduciendo el tiempo y el dinero necesarios para ejecutar estafas a gran escala.