Hombre chino arrestado por usar ChatGPT para escribir noticias falsas

En un caso revolucionario que involucra inteligencia artificial (IA), un hombre en China ha sido arrestado por supuestamente usar ChatGPT para fabricar un artículo de noticias falso sobre un accidente de tren que cobró nueve vidas.

Esto marca la primera acción de aplicación tomada en China bajo una ley sin precedentes relacionada con la IA, destacando los esfuerzos de la nación para regular y controlar el uso de tecnología avanzada.

El incidente de noticias falsas de ChatGPT

Un hombre identificado solo como Hong ha sido detenido por la policía en la provincia de Gansu, noroeste de China, por supuestamente crear una historia de noticias falsa sobre un accidente de tren usando ChatGPT.

El artículo falso fue publicado en una plataforma de blogs propiedad del gigante de la búsqueda china Baidu por más de 20 cuentas y acumuló más de 15,000 vistas.

Para evitar las verificaciones de duplicación en la plataforma, se acusa a Hong de usar ChatGPT para generar versiones ligeramente diferentes del artículo de noticias falso.

Desarrollado por OpenAI con sede en EE. UU., ChatGPT es un chatbot que utiliza tecnología de IA generativa. Esta tecnología permite que el software genere respuestas basadas en prompts y preguntas del usuario, como crear una historia a partir de instrucciones específicas.

Aunque ChatGPT está bloqueado en China, aún se puede acceder a través de una red privada virtual (VPN), que puede eludir las restricciones de internet del país.

En respuesta al creciente popularidad y los posibles riesgos de la IA, como ChatGPT, las autoridades chinas introdujeron este año una ley pionora que regula las "tecnologías de síntesis profunda".

La ley abarca el uso de la IA para generar texto, imágenes, vídeos u otros medios, y prohíbe la difusión de noticias falsas a través de servicios de síntesis profunda.

Enfoque cauteloso de los gigantes tecnológicos chinos

Mientras ChatGPT gana terreno y se vuelve viral, el paisaje de Internet, fuertemente censurado y controlado en China, ha llevado al gobierno a crear leyes que aborden las nuevas tecnologías que podrían plantear desafíos a las autoridades centrales.

En consecuencia, los gigantes tecnológicos chinos han sido cautelosos en su enfoque de las aplicaciones de IA, evitando la disponibilidad generalizada de chatbots como ChatGPT y centrándose en cambio en casos de uso específicos.

Alibaba, por ejemplo, está trabajando en su producto de IA Tongyi Qianwen, que eventualmente se implementará en su software de comunicación empresarial DingTalk y en Tmall Genie, un proveedor de electrodomésticos inteligentes.

Este enfoque estratégico se considera una respuesta a las preocupaciones de los reguladores y del gobierno.

El arresto de Hong bajo la nueva ley que regula las tecnologías de síntesis profunda sirve como un recordatorio contundente de las posibles consecuencias del mal uso de la IA en China.

A medida que la tecnología sigue avanzando, es fundamental que naciones como China establezcan directrices y regulaciones que aborden las posibles amenazas planteadas por la IA, especialmente en el ámbito de las noticias falsas y la desinformación.

El desarrollo continuo de chatbots y aplicaciones impulsados por IA por parte de los gigantes tecnológicos chinos probablemente continuará bajo una supervisión cuidadosa, con un enfoque en casos de uso específicos para evitar alarmar a los reguladores y al gobierno.

A medida que la tecnología de la IA evoluciona y se vuelve más sofisticada, lograr un equilibrio entre innovación y regulación será crucial para garantizar un entorno digital seguro y fiable.