El organismo de control de valores de China ha prometido mejorar aún más su trabajo de monitoreo de información falsa en el mercado de valores y unir esfuerzos con la policía y los reguladores del ciberespacio para brindar justicia a los culpables de difundir noticias falsas.
Las noticias falsas existían en el pasado y siguen causando estragos. Sin embargo, la proliferación de la IA ha facilitado más que nunca su difusión. Según el Securities Times, corresponde a los reguladores actuar con rapidez, con fuerza y directamente en el corazón del problema.
La IA se ha convertido en una herramienta para difundir desinformación
La inteligencia artificial, especialmente la IA generativa, se ha desarrollado hasta el punto de convertirse en una amenaza para la circulación de información verdadera.
Cualquiera podría tener en sus manos una IA y, si está lo suficientemente decidido, podría crear la suya propia.
Según Shanghai Securities News en un artículo aparte, estas IA se utilizan ahora para difundir información engañosa para estafar a los inversores o manipular las acciones.
Los inversores codiciosos caen rápidamente en la tentación de enriquecerse rápidamente, y quienes han sido estafados han recurrido a difundir la desconfianza hacia la IA. ¿Quién puede culparlos? Es difícil adoptar una tecnología cuando se ha estado expuesto a su lado oscuro.
A pesar del peligro potencial, la aparición de empresas como la startup china de inteligencia artificial DeepSeek ha impulsado a los inversores minoristas y a los gestores de fondos a utilizar la inteligencia artificial para evaluar empresas e invertir.
¡DeepSeek-R1 ya está aquí!
⚡ Rendimiento a la par de OpenAI-o1
📖 Modelo y informe técnico de código totalmente abierto
🏆 Licencia MIT: ¡Destile y comercialice libremente!¡El sitio web y la API ya están disponibles! ¡Prueba DeepThink hoy mismo en https://t.co/v1TFy7LHNy !
🐋 1/n foto.twitter.com/7BlpWAPu6y
– DeepSeek (@deepseek_ai) 20 de enero de 2025
Un factor que plantea riesgos para la adopción de la tecnología es el temor de que los inversores sean engañados por noticias falsas creadas por inteligencia artificial.
Según Securities Times, la Comisión Reguladora de Valores de China se volverá más proactiva a la hora de deshacerse de los rumores del mercado de valores emitiendo aclaraciones y fomentando la educación de los inversores, proporcionando además orientación que ayudará a los inversores a detectar información falsa.
El viernes, las autoridades chinas emitieron directrices que exigen etiquetas en todo el contenido generado por inteligencia artificial que circule en línea como parte de su lucha contra el uso indebido de la IA y la difusión de información falsa.
Los informes del Securities Times y del Shanghai Securities News coinciden con el Día Mundial de los Derechos del Consumidor, que se celebra cada año el 15 de marzo, un importante evento televisivo y de medios sociales en China que promueve la protección del consumidor.
China es acusada regularmente de desinformación sobre inteligencia artificial dirigida al público occidental
Sin embargo, fuera de China, se informa que el gobierno chino está utilizando inteligencia artificial para librar una guerra de desinformación contra el mundo occidental a través de sus agentes.
Hace apenas unos días, un vídeo que mostraba un monitor que ejecutaba hasta 50 instancias de un agente de inteligencia artificial chino se volvió viral en X y muchos etiquetaron a Grok de Elon Musk pidiendo una explicación.
Según Grok, “cada instancia parece estar administrando una cuenta diferente, probablemente automatizando publicaciones, comentarios o interacciones”
La IA añadió que la configuración «sugiere un esfuerzo coordinado para manipular las narrativas en línea, posiblemente con fines de propaganda o de influencia. Es preocupante porque estos bots pueden difundir desinformación, amplificar contenido divisivo o influir en la opinión pública a gran escala, amenazando el discurso democrático»
Aunque parezca una teoría descabellada, Grok afirmó que el historial de China en el uso de IA para operaciones encubiertas en redes sociales lo convierte en un riesgo real. La IA no está tan lejos de la realidad.
La imagen muestra un monitor que ejecuta 50 instancias de un agente chino de IA, en su mayoría bots de redes sociales. Cada instancia parece gestionar una cuenta diferente, probablemente automatizando publicaciones, comentarios o interacciones. Esta configuración sugiere un esfuerzo coordinado para manipular las narrativas en línea…
– Grok (@grok) 9 de marzo de 2025
En 2024, un informe de abril de Microsoft Threat Intelligence acusó abiertamente a las operaciones de influencia de China de utilizar inteligencia artificial para sembrar desinformación y avivar la discordia a nivel mundial.
El último informe del Centro de Análisis de Amenazas de Microsoft señala que China está utilizando cuentas falsas en redes sociales para sondear a los votantes estadounidenses sobre lo que más los divide para sembrar la división y posiblemente influir en el resultado de las elecciones presidenciales de Estados Unidos dent su favor. https://t.co/ZwAxPOTgLV
— Microsoft Threat Intelligence (@MsftSecIntel) 5 de abril de 2024
Las operaciones destacadas en el informe incluyeron “un aumento notable en el contenido que presenta figuras políticas taiwanesas antes de las eleccionesdenty legislativas del 13 de enero”
Esto incluía una grabación de audio generada por IA compartida por un grupo vinculado al Partido Comunista Chino (PCCh) conocido como Storm-1376 o “Spamouflage”, que hacía parecer que el propietario de Foxconn, Terry Gou, quien había montado una breve campañadentdent , había respaldado a otro candidato, cuando en realidad no lo hizo.
Microsoft también registró la difusión de presentadores de noticias generados por IA, así como memes generados por IA para engañar a las audiencias e influir en las elecciones de Taiwán.
“Esta fue la primera vez que Microsoft Threat Intelligence fue testigo de cómo un actor de un estado nacional utilizaba contenido de IA en un intento de influir en una elección extranjera”, afirmó el informe.
También advirtió que “a medida que las poblaciones de India, Corea del Sur y Estados Unidos acuden a las urnas, es probable que veamos a actores cibernéticos e influyentes chinos, y en cierta medida a actores cibernéticos norcoreanos, trabajando para atacar estas elecciones”
Si bien hay pocas dudas de que las operaciones de influencia de China han ido creciendo en sofisticación con los avances en inteligencia artificial, Microsoft señaló que hay muy poca evidencia de que hayan tenido éxito en cambiar la opinión pública.
Por supuesto, eso no es motivo para relajarse, porque si bien Microsoft admitió que el impacto del contenido es bajo, expresó su preocupación por el futuro, señalando que la creciente experimentación de China en la ampliación de memes, videos y audio puede hacer que sea más eficaz para sembrar discordia a medida que pasa el tiempo.
