OpenAI suspende cuentas vinculadas a China que usan ChatGPT para herramienta de vigilancia

OpenAI, la principal startup de inteligencia artificial de Estados Unidos, acaba de prohibir múltiples cuentas en ChatGPT, acusándolas de estar involucradas en el desarrollo de una herramienta de vigilancia. 

Según un informe de la empresa publicado en febrero de 2025, las cuentas suspendidas supuestamente tienen vínculos con China. Estas cuentas estaban supuestamente usando los modelos de OpenAI para generar descripciones detalladas de una herramienta de escucha de redes sociales, que afirmaban usarse para proporcionar comentarios en tiempo real sobre protestas en Occidente a los servicios de seguridad chinos. 

Las cuentas prohibidas también habían encontrado una manera de usar los modelos de OpenAI para depurar código aparentemente destinado a implementar tal herramienta. 

Por qué se sospecha de China 

OpenAI tiene políticas implementadas para prevenir el uso de la IA para monitorear comunicaciones o vigilancia no autorizada de individuos, incluidas actividades de o en nombre de gobiernos que buscan suprimir las libertades y derechos personales.

OpenAI fue capaz de identificar las cuentas en cuestión basándose en patrones de comportamiento entre otros hallazgos. Algunas de las cosas que las cuentas supuestamente usaban los modelos de OpenAI para incluían ayudar con el análisis de documentos, generar discursos de ventas, descripciones de herramientas para monitorear la actividad en redes sociales e investigar actores políticos y temas.

Se sospecha que las cuentas tienen orígenes chinos porque sus actividades ocurrieron principalmente durante las horas comerciales de la China continental, y las cuentas instaron a los modelos de OpenAI con el idioma chino. 

OpenAI también descubrió que los responsables de las cuentas estaban usando las herramientas de una manera consistente con la indicación manual en lugar de la automatización. En algunos casos, la firma de IA descubrió que una cuenta podría haber tenido múltiples operadores.

Una de las principales actividades de la operación involucró generar descripciones detalladas, consistentes con discursos de ventas, para lo que se describía como el "Asistente de Opinión Pública en el Extranjero Qianyue de IA". 

Esta herramienta estaba diseñada para analizar publicaciones y comentarios de plataformas como X, Facebook, YouTube, Instagram, Telegram y Reddit y alimentar a las autoridades chinas con lo que aprende. 

Desafortunadamente, OpenAI no ha podido verificar independientemente estas descripciones, y el incidente ha puesto a EE. UU. en alerta máxima. Según el investigador principal de OpenAI, Ben Nuimmo, este caso es un ejemplo de cómo los regímenes autoritarios como China pueden intentar aprovechar la tecnología construida en EE. UU. en contra de EE. UU. y sus aliados.

"Esta es una visión bastante inquietante de la manera en que un actor no democrático intentó usar la IA democrática o basada en EE. UU. para propósitos no democráticos, según los materiales que ellos mismos estaban generando."

OpenAI también reveló que las cuentas mencionaban otras herramientas de IA, incluyendo una versión de Llama, el modelo de IA de código abierto de Meta. 

Este caso ocurre poco después de la creación de DeepSeek 

OpenAI ha estado sonando la alarma sobre los peligros de la IA china, especialmente después de que DeepSeek sorprendiera con su modelo de razonamiento R1, que superó a muchos otros modelos fabricados en EE. UU. en benchmarks y causó una gran venta de acciones en los mercados tecnológicos de EE. UU. 

DeepSeekLa superioridad de DeepSeek es debatible, y sus creadores afirman haberlo creado a una fracción del costo que la mayoría de los modelos de EE. UU. usaron para construir los suyos. Esta afirmación ha sido recibida con reacciones mixtas del público, pero muchos expertos están convencidos de que fue una exageración. 

OpenAI no solo está convencida de que el equipo detrás de DeepSeek gastó más en él, sino que también ha acusado a DeepSeek de destilar la salida de sus modelos para hacer el suyo propio. 

Según un informe de Bloomberg, Microsoft, un gran inversor en OpenAI, ahora está investigando si los datos pertenecientes a la firma han sido utilizados sin autorización.

David Sacks, el recientemente nombrado "zar de la IA y las criptomonedas" de la Casa Blanca, ha hecho eco de las preocupaciones de OpenAI, sugiriendo que DeepSeek puede haber usado los modelos de la firma estadounidense para mejorarlos, un proceso denominado destilación de conocimiento.

"Hay evidencia sustancial de que lo que DeepSeek hizo aquí es que destiló el conocimiento de los modelos de OpenAI", Sacks dijo. 

Añadió que durante los próximos meses, las principales empresas de inteligencia artificial de Estados Unidos comenzarán a tomar medidas para prevenir la destilación, con la esperanza de que esto ralentice a algunos de los modelos imitadores.