Una IA genera noticias falsas que conducen al arresto de un hombre en China, según un informe

Un hombre conocido únicamente como "Hong" fue arrestado en el distrito de Gansu, China, tras ser acusado de utilizar el servicio ChatGPT para generar noticias falsas. Su arresto se produjo después de que una investigación sobre un artículo sin fundamento relacionado con un accidente ferroviario fuera descubierta en un popular sitio de blogs alojado por el conglomerado tecnológico chino Baidu. Especialistas en ciberseguridad descubrieron que al menos 20 cuentas habían publicado simultáneamente la noticia falsa, lo que condujo al arresto de Hong.

China cuenta con algunas de las leyes más estrictas del mundo en cuanto al uso de las redes sociales, y Hong fue arrestado por "utilizar tecnología de inteligencia artificial para inventar información falsa y engañosa", infringiendo una ordenanza contra "provocar disturbios y disturbios", que específicamente abarca la difusión de noticias falsas y rumores en internet. De ser acusado, Hong podría enfrentar hasta cinco años de prisión según la ley general, pero podría ser condenado a hasta 10 años si los tribunales consideran que el delito es particularmente grave.

Aunque el servicio ChatGPT está actualmente prohibido en China, su uso puede ocultarse mediante redes privadas virtuales (VPN). Sin embargo, los servicios de IA desarrollados localmente, como «Tongyi Qianwen» de Alibaba, un modelo de IA generativa recientemente anunciado y entrenado para responder preguntas tanto en inglés como en mandarín, han recibido la aprobación del gobierno chino. Aún no está claro si Tongyi Qianwen tendrá las mismas capacidades creativas que ChatGPT.

Creciente preocupación por el mal uso de la tecnología de IA

La falta de modelos robustos de inteligencia artificial generativa en China podría tener un efecto negativo en el panorama tecnológico nacional, especialmente en sectores como la tecnología financiera y el comercio de criptomonedas, donde el uso de ChatGPT y los productos basados ​​en la API GPT de OpenAI se han vuelto cada vez más populares. Es probable que el gobierno chino continúe monitoreando el uso de tecnologías de inteligencia artificial y adopte medidas enérgicas contra quienes las utilicen para difundir información falsa.

Eldent también pone de relieve la creciente preocupación por el uso indebido de la tecnología de inteligencia artificial. Si bien la inteligencia artificial tiene un enorme potencial para transformar diversas industrias, también plantea riesgos significativos. La capacidad de generar noticias falsas convincentes de forma rápida y sencilla podría tener graves consecuencias para la confianza pública en los medios de comunicación y el gobierno. A medida que la inteligencia artificial continúa avanzando, es crucial que desarrollemos estrategias eficaces para prevenir su uso indebido y garantizar que se utilice en beneficio del bien común.