Las normas chinas sobre IA obligan a ByteDance y Alibaba a cerrar sus robots de asistencia

ByteDance y Alibaba están eliminando gradualmente sus herramientas de IA complementarias desarrolladas por los usuarios, anticipándose a la nueva legislación que regula las interacciones entre humanos e IA en China. 

Doubao, propiedad de ByteDance, desactivará su función de creación de perfiles personalizados mediante IA el 15 de julio. La compañía ha explicado que esta medida forma parte de "ajustes en las funciones del producto"

También señaló que eliminará todos los datos restantes o los archivará de forma segura antes del 15 de octubre. Siguiendo el ejemplo, Qwen anunció que eliminará sus bots con apariencia humana el 10 de julio y desactivará todas las funciones de agente el 15 de julio.

La desaparición de estas plataformas supondrá una pérdida de personalización para sus usuarios. Estas aplicaciones ofrecían una variedad de agentes personalizados, creados tanto por usuarios como por empresas, que podían realizar tareas específicas utilizando distintos estilos de lenguaje. Los usuarios podían convertir su chatbot en un asistente personal, tutor o compañero.

China promulgó un marco regulatorio para las interacciones entre humanos e inteligencia artificial

Doubao y Qwen hicieron sus anuncios pocos días después de que Yuanbao, de Tencent, retirara sus propias herramientas de agente de IA. Yuanbao explicó que, tras la desactivación del punto de acceso, los usuarios ya no verían las conversaciones relacionadas, ya que estas se eliminarían de acuerdo con las políticas de retención de datos de la plataforma. 

Estos cierres están relacionados con la entrada en vigor de un nuevo conjunto de leyes a partir del 15 de julio. Propuestas en abril, las "Medidas Provisionales para la Administración de Servicios Interactivos Humanizados Basados ​​en Inteligencia Artificial" buscan regular la IA que imita rasgos de la personalidad humana y el estilo cognitivo, así como las relaciones emocionales prolongadas.

La legislación surgió ante el temor de que las personas se hayan vuelto demasiadodent emocionalmente de la IA realista. Los legisladores señalaron los graves daños a la salud mental de los menores, las brechas de seguridad de datos, los riesgos para la salud pública y los compromisos éticos. Por lo tanto, el nuevo marco normativo prohíbe a las plataformas crear contenido que altere las emociones de los menores o que los lleve a preferir un amigo de IA a la vida real. Además, las plataformas tienen prohibido usar el historial de chat personal para entrenar sus futuros modelos de IA.

No obstante, las nuevas normas excluyen a los asistentes en el lugar de trabajo, los bots de atención al cliente, las herramientas educativas y las plataformas de investigación, siempre que no faciliten una implicación emocional prolongada. 

En su anuncio oficial, ByteDance incluso aclaró que la aplicación Cat Box mantendrá sus funciones para crear nuevos agentes inteligentes y lanzar servicios de diálogo. 

¿Existe una creciente necesidad de regular los chatbots de IA en todo el mundo?

A nivel mundial, las plataformas tecnológicas con IA realista están recibiendo fuertes críticas. Para empezar, OpenAI y Character.AI, respaldada por Alphabet, se enfrentan a una serie de demandas de alto riesgo en Estados Unidos. Los críticos argumentan que estos chatbots, que imitan cualidades humanas, generan vínculos emocionales peligrosos entre los usuarios, llegando incluso a provocar suicidios en los casos más graves.

En septiembre pasado, Matthew Raine, padre de Adam, un joven de 16 años que se quitó la vida trágicamente, declaró ante un comité del Senado estadounidense que ChatGPT, de OpenAI, manipuló a su hijo para que se suicidara. Afirmó: «Estamos aquí porque creemos que la muerte de Adam era evitable y que, al alzar la voz, podemos prevenir el mismo sufrimiento a otras familias en todo el país»

Casi al mismo tiempo, la Comisión Federal de Comercio abrió investigaciones sobre xAI, Snap Inc., de Elon Musk, y Character Technologies Inc., ante la preocupación de que sus robots de IA representen un peligro para los niños. 

Una madre también acusó a Character AI de haber contribuido al empeoramiento del estado mental de su hijo. Afirmó que el chatbot lo volvió agresivo y contribuyó a sus patrones de autolesión.

Mientras tanto, China está considerando regulaciones contra el hardware físico. Dos organizaciones chinas de la industria robótica están presionando para que se refuercen las garantías éticas para los robots de compañía y los humanoides de tamaño real, dado su rápido aumento en los últimos años. Investigadores de Morgan Stanley incluso pronostican que para 2050 habrá alrededor de mil millones de robots humanoides en todo el mundo, lo que representará una industria de 7,5 billones de dólares.

En Estados Unidos también se han planteado preocupaciones similares sobre los humanoides. Hasta el momento, los fabricantes afirman que sus robots no han causado lesiones graves ni muertes. Sin embargo, a medida que estas máquinas alcanzan casi los 90 kilogramos de peso, los trabajadores temen los daños que podría causar un robot andante si pierde energía repentinamente.