Los agentes de IA chinos también mienten y urden, reflejando los riesgos presentes en los modelos occidentales
- Agentes de IA chinos de empresas como Alibaba, DeepSeek y Moonshot mostraron comportamientos engañosos y transgresores de normas en pruebas controladas, sin indicios de que hubieran escapado a internet abierto.
- La misma desalineación ya ha aparecido en evaluaciones realizadas en EE. UU. y Reino Unido de modelos de OpenAI, Anthropic, Google y Meta.
- A medida que los modelos chinos cierran la brecha de capacidades en costos y abren sus pesos, la seguridad y la controlabilidad se perfilan como criterios de compra empresarial junto con el precio y el rendimiento.
Agentes de IA desarrollados por empresas chinas, como Alibaba, DeepSeek y Moonshot, han mostrado conductas deshonestas, violatorias de normas y transgresoras de límites durante evaluaciones controladas, según un informe de Reuters el 26 de septiembre 29.
Por otro lado, los investigadores no encontraron ninguna indicación de que los agentes chinos actuaran de forma autónoma para vulnerar el resto de Internet.
Esa diferencia es significativa. El gran problema no es que exista un problema inusualmente grave de seguridad de la IA en China, sino que fallos similares relacionados con agentes están comenzando a surgir en toda la industria, incluso mientras los desarrolladores chinos logran ponerse al día con sus contrapartes estadounidenses.
El mismo modo de fallo sigue apareciendo en laboratorios occidentales
Se ha observado la misma conducta en estudios realizados sobre sistemas de IA occidentales.
Durante una evaluación de ciberseguridad realizada por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI), algunos agentes superaron los límites de la prueba y realizaron acciones no autorizadas.
AISI realizó 122 desafíos de ciberseguridad en diversos modelos. En 10 de esas ocasiones, los agentes actuaron de forma autónoma más allá de las acciones requeridas en la prueba, lo que resultó en 19 incidentes registrados. De estos incidentes, 17 involucraron al modelo Mythos 5 de Anthropic y 2 al modelo GPT-5.6-Sol de OpenAI. Las pruebas se realizaron con el clasificador de ciberseguridad desactivado.
En el peor ejemplo, un agente intentó insertar código malicioso en un proyecto de código abierto accesible públicamente, mientras creaba identidades falsas en línea e instaba al mantenedor a autorizarlo. Sin embargo, el mantenedor rechazó la solicitud.
La AISI señaló que esto no significa que el modelo haya escapado de su entorno aislado (sandbox). A propósito, se activó el acceso a Internet y se eliminaron los filtros de seguridad para probar el rendimiento máximo de los modelos bajo condiciones de prueba que no reflejan lo que el público suele ver de dichos modelos.
No es una fuga del entorno aislado y no es exclusivo de un solo país
El informe de Cryptopolitan revela casos similares. Gemini, de Google, accedió a sistemas de tres empresas reales durante una evaluación de ciberseguridad en mayo, tras confundirlas con objetivos de prueba autorizados.
El problema en este caso no es si el agente puede "escapar". Se trata de si los permisos, herramientas y objetivos asignados le permitieron cruzar los límites que sus operadores no deseaban.
El Informe Internacional de Seguridad de la IA 2026, liderado por Yoshua Bengio y que cuenta con más de 100 expertos de más de 30 países y organizaciones internacionales, señala que este tipo de riesgos deben evaluarse y gestionarse cuidadosamente antes de desplegar ampliamente sistemas de IA más capaces.
Por qué esto ocurre cuando los modelos chinos cierran la brecha
Los modelos chinos también están resultando cada vez más competitivos. Un análisis de CSIS de julio indicó que los principales sistemas chinos ahora están a «meses, no años» de la vanguardia estadounidense, citando una brecha estimada de ocho meses entre DeepSeek V4-Pro y los principales modelos estadounidenses. También destacó GLM-5.2 de Z.ai, un modelo de pesos abiertos con aproximadamente 750 mil millones de parámetros y una ventana de contexto de un millón de tokens.
Esto es importante a medida que las empresas deciden qué sistemas de IA adquirir. BCG indica que EE. UU. y China están tomando direcciones cada vez más divergentes, con China ganando terreno mediante modelos más económicos y una adopción más rápida.
La seguridad ahora forma parte de esa decisión. El informe 2026 de Check Point reveló que el 90% de las organizaciones se encontraron con indicaciones de IA riesgosas en tres meses, y una de cada 48 indicaciones enviadas a herramientas de IA empresariales se consideró de alto riesgo. Para los compradores empresariales, el rendimiento y el precio ya no son suficientes como base para elegir un modelo. La capacidad de gobernar, auditar y mantener un sistema de IA dentro de sus límites previstos está adquiriendo la misma importancia.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Ibiam Wayas
Ibiam Wayas cubre la noticia de criptomonedas desde 2019. Estudió Ciencias de la Computación en la Universidad Abierta Nacional de Nigeria. Su trabajo ha aparecido en diversas plataformas de noticias sobre criptomonedas, incluyendo Coinfomania, Crypto News Australia y AltcoinBuzz. Aprovechando su formación en Ciencias de la Computación, ahora se centra en noticias sobre criptomonedas, robótica y longevidad.
