En un caso innovador que involucra inteligencia artificial (IA), un hombre en China fue arrestado por supuestamente usar ChatGPT para fabricar un artículo de noticias falso sobre un accidente de tren que cobró nueve vidas.
Esto marca la primera acción de cumplimiento tomada en China bajo una ley sin precedentes dent con la IA, destacando los esfuerzos de la nación para regular y controlar el uso de tecnología avanzada.
El dent de las noticias falsas de ChatGPT
Un hombre dent solo como Hong fue detenido por la policía en la provincia de Gansu, al noroeste de China, por presuntamente elaborar una noticia falsa sobre un dent de tren utilizando ChatGPT.
El artículo falso fue publicado en una plataforma de blogs propiedad del gigante de búsqueda chino Baidu por más de 20 cuentas y acumuló más de 15.000 visitas.
Para eludir los controles de duplicación en la plataforma, se acusa a Hong de usar ChatGPT para generar versiones ligeramente diferentes del artículo de noticias falsas.
Desarrollado por OpenAI con sede en EE. UU., ChatGPT es un chatbot que utiliza tecnología de IA generativa. Esta tecnología permite que el software genere respuestas basadas en indicaciones y preguntas del usuario, como la elaboración de una historia a partir de instrucciones específicas.
Aunque ChatGPT está bloqueado en China, aún se puede acceder a él a través de una red privada virtual (VPN), que puede eludir las restricciones de Internet del país.
En respuesta a la creciente popularidad y los riesgos potenciales de IA como ChatGPT, las autoridades chinas introdujeron este año una ley única en su tipo que rige las "tecnologías de síntesis profunda".
La ley abarca el uso de IA para generar texto, imágenes, videos u otros medios, y prohíbe la difusión de noticias falsas a través de servicios de síntesis profunda.
El enfoque cauteloso de los gigantes tecnológicos chinos
Si bien ChatGPT ha ganado trac y se ha vuelto viral, el panorama de Internet fuertemente censurado y controlado de China ha llevado al gobierno a crear leyes que abordan las nuevas tecnologías que pueden plantear desafíos a las autoridades centrales.
En consecuencia, los gigantes tecnológicos chinos han sido cautelosos en su enfoque de las aplicaciones de IA, evitando la disponibilidad generalizada de chatbots como ChatGPT y, en cambio, centrándose en casos de uso específicos.
Alibaba, por ejemplo, está trabajando en su producto Tongyi Qianwen AI, que eventualmente se implementará en su software de comunicación para el lugar de trabajo DingTalk y en Tmall Genie, un proveedor de electrodomésticos inteligentes.
Se piensa que este enfoque estratégico es una respuesta a las preocupaciones de los reguladores y el gobierno.
El arresto de Hong bajo la nueva ley que regula las tecnologías de síntesis profunda sirve como un claro recordatorio de las posibles consecuencias del mal uso de la IA en China.
A medida que la tecnología sigue avanzando, es fundamental que naciones como China establezcan pautas y regulaciones que aborden las amenazas potenciales que plantea la IA, especialmente en el ámbito de las noticias falsas y la desinformación.
Es probable que el desarrollo continuo de aplicaciones y bots de chat impulsados por IA por parte de los gigantes tecnológicos chinos continúe bajo una supervisión cuidadosa, con un enfoque en casos de uso específicos para evitar alarmar a los reguladores y al gobierno.
A medida que la tecnología de IA evoluciona y se vuelve más sofisticada, lograr un equilibrio entre la innovación y la regulación será crucial para garantizar un panorama digital seguro y confiable.
