La IA genera noticias falsas que llevan al arresto de un hombre en China: Informe

Un hombre conocido solo como “Hong” ha sido arrestado en el distrito de Gansu, China, después de supuestamente usar el servicio ChatGPT para generar historias de noticias falsas. El arresto de Hong llegó después de una investigación sobre un artículo no verificado relacionado con un accidente de tren que fue descubierto en un popular sitio de blogs alojado por el conglomerado tecnológico chino Baidu. Los especialistas en ciberseguridad descubrieron que al menos 20 cuentas habían publicado simultáneamente el artículo de noticias falsas, lo que llevó al arresto de Hong.

China tiene algunas de las leyes más estrictas del mundo con respecto al uso de las redes sociales, y Hong fue arrestado por “usar tecnología de inteligencia artificial para concoctar información falsa y no verdadera”, infringiendo una ordenanza contra “provocar peleas y causar problemas”, que cubre específicamente la difusión de noticias falsas y rumores en internet. Si es acusado, Hong enfrenta hasta cinco años de prisión bajo la ley normal, pero podría ser sentenciado a hasta 10 años si los tribunales consideran el delito particularmente grave.

Aunque el servicio ChatGPT está actualmente prohibido en China, su uso puede ser ofuscado por redes privadas virtuales (VPN). Sin embargo, los servicios de IA nacionales, como el ‘Tongyi Qianwen’ de Alibaba, que fue anunciado recientemente como un modelo de IA generativa entrenado para responder preguntas en inglés y mandarín, han recibido la bendición del gobierno chino. Sigue sin estar claro si Tongyi Qianwen tendrá las mismas capacidades creativas que ChatGPT.

Preocupación creciente por el mal uso de la tecnología de IA

La falta de modelos robustos de inteligencia artificial generativa en China podría tener un efecto enfriador en la escena tecnológica del país, particularmente en sectores como las finanzas tecnológicas y el comercio de criptomonedas, donde el uso de ChatGPT y productos construidos sobre la API GPT de OpenAI ha explotado en popularidad. Es probable que el gobierno chino continúe monitoreando el uso de las tecnologías de inteligencia artificial y reprimiendo a quienes las utilicen para difundir información falsa.

El incidente también destaca la creciente preocupación por el mal uso de la tecnología de inteligencia artificial. Si bien la inteligencia artificial tiene un enorme potencial para transformar una variedad de industrias, también plantea riesgos significativos. La capacidad de generar historias de noticias falsas convincentes de manera rápida y fácil podría tener consecuencias graves para la confianza pública en los medios y el gobierno. A medida que la inteligencia artificial continúa avanzando, es crucial que desarrollemos estrategias efectivas para prevenir su mal uso y asegurar que se utilice para el bien público.