Un hombre conocido solo como "Hong" fue arrestado en el distrito Gansu de China luego de supuestamente usar el servicio ChatGPT para generar noticias falsas. El arresto de Hong se produjo después de que se descubriera una investigación sobre un artículo sin fundamento relacionado con un accidente de tren en un popular sitio de blogs alojado por el conglomerado tecnológico chino Baidu. Los especialistas en ciberseguridad descubrieron que al menos 20 cuentas habían publicado simultáneamente la noticia falsa, lo que llevó al arresto de Hong.
China tiene algunas de las leyes más estrictas del mundo con respecto al uso de las redes sociales, y Hong fue arrestado por "usar tecnología de inteligencia artificial para inventar información falsa y falsa", infringiendo una ordenanza contra "provocar peleas y problemas", que cubre específicamente la difusión de noticias falsas y rumores en Internet. Si se le acusa, Hong enfrenta hasta cinco años de prisión según el estatuto normal, pero podría ser sentenciado a hasta 10 años si los tribunales consideran que el delito es particularmente atroz.
Aunque el servicio ChatGPT está actualmente prohibido en China, su uso puede verse ofuscado por las redes privadas virtuales (VPN). Sin embargo, los servicios de IA de cosecha propia , como 'Tongyi Qianwen' de Alibaba, que se anunció recientemente como un modelo de IA generativa capacitado para responder preguntas tanto en inglés como en mandarín, han recibido la bendición del gobierno chino. No está claro si Tongyi Qianwen tendrá las mismas habilidades creativas que ChatGPT.
Creciente preocupación por el mal uso de la tecnología de IA
La falta de modelos robustos de inteligencia artificial generativa en China podría tener un efecto escalofriante en la escena tecnológica de la nación, particularmente en sectores como fintech y el comercio de criptomonedas, donde el uso de ChatGPT y los productos creados en la API GPT de OpenAI se han disparado en popularidad. Es probable que el gobierno chino continúe monitoreando el uso de tecnologías de inteligencia artificial y tome medidas enérgicas contra quienes las usan para difundir información falsa.
El dent también destaca la creciente preocupación por el mal uso de la tecnología de inteligencia artificial. Si bien la inteligencia artificial tiene un enorme potencial para transformar una variedad de industrias, también presenta riesgos significativos. La capacidad de generar noticias falsas convincentes de forma rápida y sencilla podría tener graves consecuencias para la confianza del público en los medios y el gobierno. A medida que la inteligencia artificial continúa avanzando, es crucial que desarrollemos estrategias efectivas para evitar su uso indebido y garantizar que se utilice para el bien público.
