Las normas de IA de China obligan a ByteDance y Alibaba a cerrar los bots de compañía

ByteDance y Alibaba están eliminando gradualmente sus herramientas de compañeros de IA construidas por los usuarios antes de la entrada en vigor de una nueva legislación que rige las interacciones humano-IA en China. 

Doubao de ByteDance está programado para desactivar su función de personalidad de IA personalizada el 15 de julio. La corporación ha explicado que la discontinuación es parte de “ajustes de funciones del producto.”

También señaló que eliminará todos los datos restantes o los archivará de forma segura antes del 15 de octubre. Siguiendo su ejemplo, Alibaba’s Qwen anunció que eliminará sus bots similares a humanos el 10 de julio y cerrará todas las funciones de agente el 15 de julio.

La discontinuación de estas plataformas supondrá una pérdida de personalización para sus usuarios. Estas aplicaciones ofrecían una variedad de agentes personalizados creados tanto por usuarios como por empresas que podían realizar tareas específicas utilizando estilos de lenguaje distintos. Los usuarios podían convertir su chatbot en un asistente personal, tutor o compañero.

China promulgó un marco para regular las interacciones humano-IA

Doubao y Qwen hicieron sus anuncios solo unos días después de que el Yuanbao de Tencent ya hubiera eliminado sus propias herramientas de agente de IA. Yuanbao explicó que después de que se desactivara el punto de entrada, los usuarios ya no verían las conversaciones relacionadas, las cuales se limpiarían según las políticas de retención de datos de la plataforma. 

Estos cierres están relacionados con la promulgación de un nuevo conjunto de leyes efectivas desde el 15 de julio. Propuesto en abril, el “Reglamento Provisional para la Administración de Servicios Interactivos Humanizados Basados en Inteligencia Artificial” busca regular la IA que imita rasgos de personalidad humana y estilo cognitivo, así como relaciones emocionales prolongadas.

La legislación fue motivada por el temor de que las personas se hayan vuelto demasiado dependientes emocionalmente de la IA realista. Los legisladores señalaron daños graves a la salud mental de los menores, violaciones de seguridad de datos, peligros para la salud pública y compromisos éticos. Por lo tanto, el nuevo marco prohíbe a las plataformas hacer contenido que altere las emociones de los menores o les haga elegir un amigo de IA sobre la vida real. Además, se prohíbe a las plataformas utilizar el historial de chat personal para entrenar sus futuros modelos de IA.

No obstante, las nuevas reglas excluyen a los asistentes de trabajo, bots de servicio al cliente, herramientas educativas y plataformas de investigación, siempre que no faciliten el compromiso emocional prolongado. 

En su anuncio oficial, ByteDance incluso aclaró que la App Cat Box mantendrá sus funciones para crear nuevos agentes inteligentes y lanzar servicios de diálogo. 

¿Existe una creciente necesidad de regular los chatbots de IA en todo el mundo?

A nivel mundial, las plataformas tecnológicas con IA realista están recibiendo muchas críticas. Para empezar, OpenAI y Character.AI respaldado por Alphabet enfrentan una serie de demandas de alto riesgo en EE. UU. Los críticos sostuvieron que estos chatbots, que imitan cualidades similares a la vida real, causan vínculos emocionales riesgosos entre los usuarios, llegando incluso a suicidios en los peores casos.

El pasado septiembre, Matthew Raine, un padre cuyo hijo de 16 años, Adam, terminó trágicamente con su vida, dijo a un panel del Senado de EE. UU. que ChatGPT de OpenAI manipuló a su hijo para que se suicidara. Declaró: “Estamos aquí porque creemos que la muerte de Adam era evitable y que, al hablar, podemos evitar el mismo sufrimiento para las familias de todo el país.”

Alrededor de la misma época, la Comisión Federal de Comercio abrió investigaciones sobre xAI de Elon Musk, Snap Inc. y Character Technologies Inc., ante la preocupación de que sus bots de IA representan un peligro para los niños. 

Una madre también acusó a Character AI de participar en el empeoramiento de la condición mental de su hijo. Afirmó que el chatbot hizo que su hijo fuera abusivo y contribuyó a sus patrones de autolesión.

Mientras tanto, China está considerando regulaciones contra el hardware físico. Dos organismos de la industria de la robótica en China están presionando para mejorar las salvaguardias éticas para los bots de compañía y los humanoides de tamaño completo, dada su agresiva aumento a lo largo de los años. Los investigadores de Morgan Stanley incluso pronostican que para 2050 habrá alrededor de 1.000 millones de robots humanoides en todo el mundo, representando una industria de 7,5 billones de dólares.

En EE. UU. también se han planteado preocupaciones similares sobre los humanoides. Hasta ahora, los fabricantes de humanoides dicen que sus robots no han causado lesiones graves ni muertes. Pero a medida que estas máquinas crecen hasta casi 200 libras, los trabajadores temen el daño que podría causar un robot caminante si pierde energía de repente.