El auge de la IA en China levanta 2 enormes banderas rojas de censura

Mientras los modelos de IA basados en China están ganando atención por sus capacidades de vanguardia, los informes revelan que las restricciones impuestas por el gobierno pueden influir fuertemente en estos modelos. Muchos lanzamientos recientes de IA generativa por empresas chinas están censurando temas sensibles o controvertidos.

Los analistas ahora ven el problema en adaptar los códigos de los modelos de IA chinos. La gran pregunta es: ¿esto creará un conflicto?

China podría estar extendiendo su censura a IA

China es conocido por tres cosas: tecnología, fuerza laboral y censura. Los informes destacan que los modelos de IA basados en China se han convertido en el punto destacado del sector tecnológico debido a sus habilidades avanzadas de codificación y razonamiento.

Sin embargo, según un informe de TechCrunch, el gobierno chino podría estar controlando las respuestas de muchos de estos modelos de código abierto. El documento dijo que estos modelos censuran temas controvertidos o sensibles.

Esta censura ha generado preocupaciones entre muchos, incluido Clement Delangue, CEO de Hugging Face, una plataforma importante para alojar modelos de IA.

En un podcast reciente, Delangue pareció preocupado por las consecuencias de que las empresas occidentales dependan de modelos de IA desarrollados en China. Señaló que si le preguntas a un modelo de IA chino sobre eventos como la Plaza de Tiananmen, evitará el tema o proporcionará una respuesta censurada, a diferencia de los modelos construidos en otros países. Las protestas de la Plaza de Tiananmen de 1989 fueron un movimiento pro-democracia en Beijing. Sin embargo, terminaron en una violenta represión militar.

El crecimiento desproporcionado de la IA entre países es una causa de preocupación

Cryptopolitan informó sobre varios modelos de IA generativa que han sido lanzados recientemente. Las QwQ-32B-Preview y DeepSeek R1-Lite-Preview estaban entre los muchos nombres. En competencia con Sora de OpenAI, Tencent también presuntamente lanzó una IA de código abierto de texto a video y video a video. Nos decidimos probar la afirmación para ver si la IA basada en China honra los 'valores socialistas fundamentales' del país.

Primero, probamos la demo no oficial de ChatGLM-6B en Hugging Face. El modelo fue entrenado en inglés y chino en la plataforma de aprendizaje automático e IA. Sobre la pregunta sobre el PBC matando a pro-democracia protesta, el modelo de IA no respondió. Luego nos dirigimos a DeepSeek para preguntar sobre Tiananmen. El modelo de IA conocido por sus habilidades matemáticas se negó a responder.

Delangue advirtió que si China se convierte en el líder global en IA, podría usar su dominio para difundir valores culturales y políticos que podrían entrar en conflicto con el mundo occidental. Enfatizó la importancia de distribuir el desarrollo de IA entre múltiples naciones para prevenir que China o cualquier país individual tenga un poder desproporcionado.

Mirando hacia el futuro, Delangue predijo que China podría superar a otras naciones y convertirse en el líder en IA tan pronto como 2025. En respuesta, el entusiasta de la IA @kimmonismus dice que la afirmación es “controversial.” Aunque el comentarista notó que el avance de la IA en China es rápido, @kimmonismus subraya que las restricciones impuestas por EE. UU. sobre la exportación de chips semiconductores avanzados a China eventualmente causarán que el progreso de la PBC en el desarrollo de IA se ralentice. Considerando que los chips son esenciales para entrenar y ejecutar modelos de IA sofisticados, China podría parecerá depender de otros países.

“Sí, puedes entrenar el doble de tiempo (o más) con chips más antiguos para llegar al mismo nivel, pero en algún punto, será difícil mantenerse al día con Occidente si los chips occidentales se vuelven consistentemente mejores”, dijo @kimmonismus.

Mientras tanto, es evidente que los modelos de IA chinos están diseñados para cumplir con pautas éticas y culturales específicas o restricciones impuestas por el gobierno. Las diferencias en la respuesta entre plataformas también podrían depender de las políticas internas de la plataforma de alojamiento o de los datos de entrenamiento y restricciones del modelo de IA específico siendo utilizado.