La IA está haciendo que los ciberestafas sean más creíbles y más difíciles de detectar que nunca
- Entre la mitad y tres cuartas partes de todos los mensajes de phishing y spam provienen ahora de sistemas de IA que generan ataques convincentes y personalizados a gran escala.
- Los mercados de la dark web venden herramientas de hacking con IA mediante precios por suscripción y soporte al cliente, permitiendo que cualquiera lance ataques sin habilidades técnicas.
- La IA automatiza lo que antes requería hackers expertos, permitiendo que las redes criminales operen más rápido, con menos personas y mayores ganancias.
Los ciberdelincuentes están utilizando inteligencia artificial para llevar a cabo esquemas más elaborados. Están apuntando a todo, desde ahorros para la jubilación hasta secretos corporativos, con métodos que se vuelven cada vez más difíciles de detectar.
La misma tecnología que personaliza los anuncios para los compradores en línea ahora está siendo utilizada por actores maliciosos para recopilar detalles personales y lanzar estafas personalizadas rápidamente. Muy rápido.
Grandes empresas de IA como Anthropic, OpenAI y Google informan que los criminales están aprovechando sus plataformas para orquestar complejas operaciones de phishing, desarrollar software dañino y ejecutar varios ataques digitales. Los especialistas en seguridad advierten que los criminales también están produciendo clips de audio y video falsos de líderes de empresas para engañar a los empleados y hacer que revelen información confidencial.
Las empresas y las oficinas gubernamentales pueden pronto enfrentar enjambres de sistemas impulsados por IA que pueden detectar debilidades en las redes informáticas y luego planificar y llevar a cabo ataques con casi ninguna ayuda humana.
La tecnología está cambiando la forma en que los criminales operan en línea. Alice Marwick dirige la investigación en Data & Society, una organización independiente de investigación tecnológica. Le dijo al Wall Street Journal que el mayor cambio implica tamaño y alcance. “El verdadero cambio es el alcance y la escala. Las estafas son más grandes, más dirigidas y más convincentes.”
Brian Singer es estudiante de doctorado en la Universidad Carnegie Mellon. Estudia cómo se utilizan los modelos de lenguaje grandes en ciberataques y defensas. ¿Su estimación? La mitad a tres cuartas partes de los mensajes de spam y phishing en todo el mundo ahora provienen de sistemas de IA.
Los propios ataques se han vuelto más creíbles. Los sistemas de IA entrenados en comunicaciones empresariales pueden producir miles de mensajes que suenan naturales y coinciden con el estilo de una empresa. Copian cómo escriben los ejecutivos. Mencionan noticias recientes encontradas en registros públicos.
La tecnología también ayuda a los estafadores extranjeros a ocultar errores de idioma que antes hacían obvios sus intentos. Los criminales pueden suplantar a las víctimas mediante vídeos falsos y voces copiadas. Utilizan la misma identidad falsa para apuntar a varias personas al mismo tiempo.
John Hultquist es analista jefe en el Grupo de Inteligencia de Amenazas de Google. Describe el cambio principal como “credibilidad a escala.”
Los actores maliciosos también están mejorando en la selección de objetivos. Utilizan la IA para revisar las redes sociales y encontrar personas que enfrentan grandes dificultades en la vida. Divorcio, muertes familiares, pérdida de empleo y situaciones que podrían hacer que alguien sea más vulnerable a trucos románticos, fraude de inversión u ofertas de trabajo falsas.
Los mercados de la dark web reducen la barrera de entrada
La barrera de entrada para la ciberdelincuencia ha disminuido. Los mercados clandestinos ahora venden o alquilan herramientas de IA para trabajos criminales por tan solo $90 al mes. Nicolas Christin dirige el departamento de sistemas de software y sociedad de Carnegie Mellon.
Dijo que estas plataformas vienen con diferentes niveles de precios y atención al cliente. “Los desarrolladores venden suscripciones a plataformas de ataque con precios escalonados y atención al cliente.”
Estos servicios se conocen con nombres como WormGPT, FraudGPT y DarkGPT. Pueden crear software dañino y campañas de phishing. Algunos incluso incluyen materiales educativos sobre técnicas de hacking.
Margaret Cunningham es vicepresidenta de seguridad y estrategia de IA en Darktrace, una empresa de seguridad. Dice que es simple. “No necesitas saber cómo programar, solo dónde encontrar la herramienta.”
Hay un desarrollo reciente llamado vibe-coding o vibe-hacking. Podría permitir que los criminales en ciernes utilicen la IA para crear sus propios programas maliciosos en lugar de comprarlos en fuentes clandestinas. Anthropic reveló a principios de este año que había detenido varios intentos de usar su IA Claude para crear ransomware por “criminales con pocas habilidades técnicas.”
Las propias operaciones criminales están cambiando. La ciberdelincuencia ha funcionado como un mercado comercial durante años, según expertos. Una operación típica de ransomware involucraba diferentes grupos. Corredores de acceso que se infiltraban en las redes de las empresas y vendían el acceso. Equipos de intrusión que se movían por los sistemas robando datos. Y proveedores de ransomware como servicio que liberaban el malware, manejaban las negociaciones y dividían el dinero.
La velocidad y la automatización remodelan las redes criminales
La IA ha aumentado la velocidad, el tamaño y la disponibilidad de este sistema. El trabajo realizado anteriormente por personas con conocimientos técnicos ahora puede ejecutarse automáticamente. Esto permite que estos grupos operen con menos personas, menos riesgo y mayores beneficios. “Piénsalo como la siguiente capa de industrialización. La IA aumenta el rendimiento sin requerir más mano de obra calificada”, explica Christin.
¿Puede la IA lanzar ataques completamente por sí sola? Todavía no. Los expertos comparan la situación con el impulso hacia vehículos totalmente autónomos. Se ha logrado el primer 95%. Pero la parte final que permitiría que un coche condujera en cualquier lugar y en cualquier momento por sí mismo sigue fuera de alcance.
Los investigadores están probando las habilidades de hacking de la IA en entornos de laboratorio. Un equipo de Carnegie Mellon, con el apoyo de Anthropic, recreó la famosa brecha de datos de Equifax utilizando IA a principios de este año. Singer dirigió el trabajo en el Instituto de Seguridad y Privacidad CyLab de Carnegie Mellon. Lo llama “un gran salto.”
Los criminales explotan la IA para fines dañinos. Pero las empresas de IA dicen que las mismas herramientas pueden ayudar a las organizaciones a fortalecer sus defensas digitales.
Anthropic y OpenAI están construyendo sistemas de IA que pueden examinar continuamente el código de software para encontrar debilidades que los criminales podrían explotar. Las personas aún deben aprobar cualquier corrección. Un programa de IA reciente desarrollado por investigadores de Stanford tuvo un mejor desempeño que algunos probadores humanos al buscar problemas de seguridad en una red.
Incluso la IA no detendrá todas las brechas. Por eso las organizaciones deben centrarse en crear redes resistentes que sigan funcionando durante los ataques, dice Hultquist.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Noor Bazmi
Noor Bazmi contribuye al equipo de noticias de Cryptopolitan con una licenciatura en Estudios de Medios. Noor cubre noticias sobre blockchain, criptomonedas, inteligencia artificial, grandes tecnológicas, mercados de VE, economía global y cambios en políticas gubernamentales. Está cursando estudios de marketing para conectar con audiencias globales.
