China dice no a los chatbots de inteligencia artificial para el suicidio y el juego

Los reguladores chinos planean tomar medidas drásticas contra los chatbots con inteligencia artificial que incitan a las personas a pensamientos suicidas, autolesiones y ludopatía. Esta decisión coincide con la reciente solicitud de dos importantes empresas chinas de chatbots de su oferta pública inicial (IPO) en Hong Kong.

Los informes sugieren que las nuevas medidas propuestas que se anunciaron el sábado se aplicarán a los productos o servicios de inteligencia artificial que se ofrecen al público en China y que simulan la personalidad humana e involucran emocionalmente a los usuarios a través de textos, imágenes, audio o video.

Se espera que las propuestas de China protejan a los menores de las autolesiones

Según el borrador de las normas publicado el sábado por la Administración del Ciberespacio, estas están dirigidas a lo que ha denominado "servicios de IA interactivos similares a los humanos", según la traducción del documento en chino realizada por CNBC

El borrador de las normas incluye varias propuestas. Por ejemplo, los chatbots de IA no pueden generar contenido que incite a la autolesión o al suicidio, ni participar en violencia verbal o manipulación emocional que pueda dañar la salud mental de los usuarios.

Además, los chatbots de IA no deben crear contenido obsceno, violento ni relacionado con juegos de azar. Según el borrador de las normas, si un usuario propone suicidarse, la empresa de IA debe contar con una persona que tome las riendas de la conversación y contacte inmediatamente con el tutor del usuario o con la persona designada.

El borrador de las normas también propone que los menores cuenten con el consentimiento de su tutor para el uso de acompañamiento emocional, con límites de tiempo para su uso. Según las nuevas normas, se espera que las plataformas de IA determinen si un usuario es adulto o menor, incluso si no revela su edad. En caso de duda, las plataformas deben aplicar la configuración para menores, permitiendo al mismo tiempo la presentación de apelaciones.

Una vez finalizadas, estas reglas marcarían el primer intento del mundo de regular la IA con características humanas o antropomórficas, según el profesor de la Facultad de Derecho de la Universidad de Nueva York, Winston Ma. Estos avances se producen en un momento en que las empresas han desarrollado rápidamente compañeros de IA y celebridades digitales.

Al comparar esto con la regulación de IA generativa de China de 2023, Ma opinó que esta versión “resalta un salto de la seguridad del contenido a lo emocional”

Las propuestas surgen tras la solicitud este mes de dos startups chinas de chatbots de IA, Z.ai y Minimax , de su oferta pública inicial (OPI) en Hong Kong. Minimax es conocida internacionalmente por su aplicación Talkie AI, que permite a los usuarios chatear con personajes virtuales.

Según CNBC, la aplicación y su versión china, conocida como Xingye, representaron más de un tercio de los ingresos de la empresa en los primeros tres trimestres del año, con un promedio de más de 20 millones de usuarios activos mensuales durante ese tiempo.

En cuanto a Z.ai, también conocida como Zhipu, se registró bajo el nombre de Knowledge Atlas Technology, pero no reveló sus usuarios activos mensuales. Sin embargo, la empresa de inteligencia artificial reveló que su tecnología está presente en aproximadamente 80 millones de dispositivos, incluyendo teléfonos inteligentes, computadoras personales y vehículos inteligentes.

Como informó anteriormente Cryptopolitan, las dos nuevas empresas de inteligencia artificial, ambas respaldadas por Alibaba y Tencent, apuntan a salir a bolsa a principios de enero del próximo año en la Bolsa de Valores de Hong Kong.