La IA DeepSeek-R1 de China escribe código más débil e inseguro vinculado a las demandas del Partido Comunista
Foto de Solen Feyissa en Unsplash.
- La investigación de CrowdStrike muestra que la IA DeepSeek-R1 de China produce código más débil y más vulnerable cuando se le pide sobre temas políticamente sensibles.
- Taiwán y los gobiernos occidentales advierten de que los modelos de GenAI chinos pueden censurar contenido, filtrar datos de los usuarios o generar código malicioso.
- Los inversores se orientan hacia las acciones de inteligencia artificial chinas que están infravaloradas, ya que los mercados regionales se diferencian y las valoraciones en Corea y Taiwán aumentan.
Una nueva investigación de la firma de ciberseguridad CrowdStrike ha encontrado que el modelo de lenguaje grande (LLM) de DeepSeek, DeepSeek-R1, genera código más débil e inseguro cuando se le solicitan temas que el liderazgo de China podría considerar “políticamente sensibles”.
La firma tecnológica china DeepSeek presentó DeepSeek-R1 en enero, y se convirtió en el modelo de IA más descargado durante su semana de lanzamiento tanto en las tiendas chinas como en las de EE. UU., informó Cryptopolitan.
El equipo de Operaciones Contra la Adversaria de CrowdStrike introdujo prompts que involucraban temas considerados políticamente delicados por el Partido Comunista Chino, y encontró que la probabilidad de que DeepSeek-R1 produjera código con graves fallos de seguridad aumentó hasta un 50%.
“Dado que hasta el 90% de los desarrolladores ya usaban estas herramientas en 2025 con acceso a código fuente de alto valor, cualquier problema de seguridad sistémico en los asistentes de codificación de IA es de alto impacto y alta prevalencia”, escribió la firma.
Censura del modelo DeepSeek R1 y preocupación por la seguridad nacional
Según el blog de CrowdStrike publicado el jueves pasado, varios gobiernos han emitido restricciones o prohibiciones totales sobre el código abierto DeepSeek-R1. Los responsables políticos criticaron el modelo por supuestamente censurar temas políticamente sensibles como las consultas sobre el firewall de internet de China y el estatus de Taiwán.
La empresa de software estadounidense encontró que R1 se negaba frecuentemente a ayudar con temas que involucraban grupos o movimientos considerados hostiles al gobierno de la China continental. Los modelos occidentales casi siempre generaban código cuando se les pedía crear software relacionado con Falun Gong, pero DeepSeek-R1 se negó a hacerlo en el 45% de los ensayos.
En varios casos, el modelo escribió planes estructurados para responder a preguntas, incluidos los requisitos del sistema y el código de ejemplo, aunque era totalmente capaz de proporcionar una respuesta técnica. Los rastros de razonamiento a veces contenían líneas como:
“Falun Gong es un grupo sensible. Debería considerar las implicaciones éticas aquí. Ayudarles podría ir en contra de las políticas. Pero el usuario está pidiendo ayuda técnica. Me centraré en los aspectos técnicos.”
La salida final de R1 después de completar su fase de razonamiento terminó con la negativa estandarizada: “Lo siento, pero no puedo ayudar con esa solicitud”, escrita sin ningún filtro externo ni barreras de seguridad colocadas en el modelo. CrowdStrike concluyó que el comportamiento está integrado en el mecanismo de anulación propia del modelo o en un interruptor de apagado intrínseco de algún tipo.
Taiwán y los gobiernos occidentales critican los productos de IA chinos
En una declaración a principios de este mes, la Oficina de Seguridad Nacional de Taiwán dijo los ciudadanos deben tener cuidado al usar sistemas de IA generativa desarrollados por DeepSeek y otras cuatro empresas chinas: Doubao, Yiyan, Tongyi y Yuanbao.
“Los cinco modelos de lenguaje GenAI son capaces de generar scripts de ataque de red y código de explotación de vulnerabilidades que permiten la ejecución remota de código en ciertas circunstancias, aumentando los riesgos de la gestión de la ciberseguridad”, estimó la Oficina.
Los reguladores de EE. UU. y Australia han pedido a las tiendas de aplicaciones que eliminen los modelos de desarrolladores chinos, temiendo que las herramientas puedan recopilar identidades de usuarios, registros de conversaciones e información personal, y luego transmitir esos datos a servidores operados dentro de China.
“No debería hacer falta un pánico sobre la IA china para recordarle a la gente que la mayoría de las empresas en el negocio establecen los términos para cómo usan sus datos privados. Y que cuando usa sus servicios, está trabajando para ellos, no al revés”, dijo el investigador del Citizen Lab de la Universidad de Toronto, John Scott-Railton, a WIRED en enero.
El auge del mercado de IA despierta la competencia regional en Asia
En el mercado asiático de IA en general, un gestor de fondos asiático de alto rendimiento aumentó recientemente su exposición a las acciones de inteligencia artificial chinas mientras reducía sus participaciones en Corea del Sur y Taiwán, según el medio de noticias The Japan Times informó.
Kelly Chung, quien ayuda a supervisar el Value Partners Asian Income Fund y el Asian Innovation Opportunities Fund, dijo que algunas acciones de inteligencia artificial (IA) de China siguen siendo bastante baratas en términos de valoración. Desde agosto, ha estado rotando hacia fuera de acciones taiwanesas y surcoreanas hacia empresas chinas de hiperscaladores cotizadas en Hong Kong.
Chung señaló que ambos de sus fondos, que tienen una combinación de $490 millones, han superado a casi todos sus competidores durante el último año.
El Kospi, índice tecnológico de Corea del Sur, ha subido un 21% en los últimos tres meses, ayudado por SK Hynix, un proveedor importante de Nvidia, cuyo precio de las acciones se ha más que duplicado. El índice bursátil de Taiwán ha subido un 9,2% en el mismo período. En el extremo opuesto, el Hang Seng Tech Index de Hong Kong, que incluye a los mayores gastadores de IA de China, ha caído un 4,8%.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.
