La botnet Fox8 desenmascara 1.000 bots de IA en X, creando cuentas falsas robando selfies
- La botnet Fox8 impulsada por IA difunde desinformación y roba identidades en X.
- Los modelos de lenguaje avanzados, como ChatGPT, permiten el engaño similar al humano.
- Necesidad urgente de regulaciones y contramedidas para combatir las amenazas impulsadas por la IA.
En una revelación impactante, investigadores del Observatorio de Medios Sociales de la Universidad de Indiana han descubierto un inquietante problema de bots en X (anteriormente conocido como Twitter). Un estudio reciente realizado por un equipo de estudiantes y profesores expuso una red de más de 1.000 cuentas impulsadas por inteligencia artificial que generan contenido generado por máquinas y roban selfies para fabricar identidades falsas. Este inquietante descubrimiento ha generado preocupaciones sobre la extensión de la desinformación y el daño potencial que estos bots podrían infligir a la plataforma y a sus usuarios.
La botnet Fox8 y su papel en crear un campo de juego para la desinformación
El equipo de investigación, liderado por los científicos Kai-Cheng Yang y Filippo Menczer, identificó una vasta red de cuentas falsas en X, apodada la botnet «Fox8». Esta red emplea modelos de lenguaje avanzados, incluido ChatGPT, para generar contenido que promueve sitios web sospechosos y difunde narrativas dañinas. Más allá de la creación de identidades falsas, se ha observado que estos bots intentan atraer a personas desprevenidas a invertir en criptomonedas fraudulentas. Aún más preocupante es su supuesta participación en robos de billeteras de criptomonedas existentes, revelando un nivel de sofisticación que podría causar pérdidas financieras significativas.
Conexiones cripto y difusión del engaño
La botnet Fox8 dirige estratégicamente hashtags relacionados con criptomonedas, como #bitcoin, #crypto y #web3, para aumentar la visibilidad de sus publicaciones. Estas publicaciones a menudo interactúan con cuentas operadas por humanos centradas en cripto, como la conocida ForbesCrypto (@ForbesCrypto) y el sitio de noticias centrado en blockchain Watcher Guru (@WatcherGuru). Al interactuar con cuentas legítimas, estos bots crean una ilusión de autenticidad y credibilidad, haciendo aún más difícil para los usuarios distinguir entre contenido genuino y malicia.
Más allá de las criptomonedas y una amenaza multifacética
Las actividades maliciosas de la botnet Fox8 se extienden más allá del ámbito de las criptomonedas. La investigación de Yang y Mencher destacó que estas cuentas de bots son responsables de distorsionar conversaciones en línea y difundir desinformación en varios contextos, incluidas áreas críticas como elecciones y crisis de salud pública. Esta amplificación de la desinformación representa un riesgo sustancial para el discurso público y los procesos de toma de decisiones, lo que requiere atención urgente y contramedidas.
Un nuevo nivel de credibilidad
A diferencia de las botnets fácilmente detectables del pasado, la red Fox8 emplea tácticas más sofisticadas para parecer convincentemente humanas. Estos bots roban imágenes de usuarios reales e interactúan entre sí, incluidos retweets y respuestas. Además, mantienen perfiles con descripciones, seguidores y recuentos de tweets, mejorando aún más su aparente autenticidad. Este nivel de detalle en sus perfiles e interacciones hace que sea difícil para los usuarios identificarlos como cuentas fraudulentas.
La revolución de ChatGPT y su explotación oscura
El estudio destaca el papel significativo de los modelos de lenguaje avanzados como ChatGPT en habilitar las operaciones de botnets como Fox8. Estos modelos de lenguaje han mejorado exponencialmente las capacidades de estos bots, permitiéndoles crear contenido cada vez más difícil de distinguir del generado por humanos. La disponibilidad de APIs de IA gratuitas ha acelerado este proceso, permitiendo que actores maliciosos exploten estas herramientas para engañar a usuarios desprevenidos.
La erosión de los métodos de detección
Tradicionalmente, los investigadores podían identificar botnets basándose en el uso antinatural del lenguaje y contenido poco convincente. Sin embargo, el auge de ChatGPT y tecnologías similares ha erosionado la efectividad de los métodos de detección convencionales. Incluso aplicando detectores de contenido de última generación, el equipo de investigación tuvo dificultades para diferenciar entre contenido generado por humanos y contenido generado por IA dentro de la botnet Fox8.
Llamamientos urgentes a la acción
Los alarmantes hallazgos de este estudio enfatizan la urgencia de abordar la creciente amenaza planteada por las botnets impulsadas por IA. Mencher enfatiza que la actual falta de métodos efectivos para detectar contenido generado por IA requiere asignar recursos significativos al desarrollo de contramedidas y regulaciones apropiadas. Sin tales intervenciones, el potencial de manipulación, desinformación y explotación financiera permanece sin control.
La amenaza invisible y lo que hay debajo
Si bien los investigadores no revelaron los nombres de usuario específicos asociados con la botnet Fox8, descubrieron su existencia a través de tweets auto-reveladores publicados inadvertidamente por estas cuentas. Esto los llevó a buscar la frase «como modelo de lenguaje de IA» en X, identificando más de 12.000 tweets de alrededor de 9.000 cuentas únicas. Aunque no todas estas cuentas están confirmadas como bots impulsados por LLM, el estudio estima que una parte sustancial está involucrada en la difusión de contenido generado por IA.
La investigación de la Universidad de Indiana arroja luz sobre una amenaza creciente dentro del ámbito digital: botnets impulsadas por IA que roban identidades, difunden desinformación y manipulan a los usuarios con fines maliciosos. El estudio subraya la urgencia de encontrar soluciones prácticas a estas amenazas en evolución. A medida que la tecnología avanza, la batalla contra el engaño generado por IA requerirá innovación, colaboración y vigilancia para salvaguardar la integridad de los espacios en línea.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Editah Patrick
Editah es una analista fintech versátil con un profundo conocimiento de los dominios blockchain. Tanto si la tecnología la fascina, encuentra fascinante la intersección entre tecnología y finanzas. Su interés particular en las billeteras digitales y blockchain beneficia a su audiencia.
