OpenAI suspende cuentas vinculadas a China que utilizan ChatGPT como herramienta de vigilancia

OpenAI, la principal startup de inteligencia artificial de Estados Unidos, acaba de prohibir varias cuentas en ChatGPT, acusándolas de estar involucradas en el desarrollo de una herramienta de vigilancia. 

Según un informe de la empresa publicado en febrero de 2025, las cuentas suspendidas presuntamente tienen vínculos con China. Estas cuentas utilizaban los modelos de OpenAI para generar descripciones detalladas de una herramienta de escucha en redes sociales que, según afirmaban, se utilizaba para proporcionar información en tiempo real sobre las protestas en Occidente a los servicios de seguridad chinos. 

Las cuentas prohibidas también encontraron una manera de utilizar los modelos de OpenAI para depurar código aparentemente destinado a implementar dicha herramienta. 

¿Por qué se sospecha de China? 

OpenAI cuenta con políticas implementadas para evitar el uso de IA para monitorear comunicaciones o la vigilancia no autorizada de personas, incluidas actividades realizadas por gobiernos o en nombre de ellos que buscan suprimir las libertades y los derechos personales.

OpenAI pudodentlas cuentas en cuestión basándose en patrones de comportamiento, entre otros hallazgos. Según se informa, las cuentas utilizaban los modelos de OpenAI para ayudar a analizar documentos, generar propuestas de venta, describir herramientas para monitorear la actividad en redes sociales e investigar actores y temas políticos.

Se sospecha que las cuentas tienen origen chino porque sus actividades se produjeron principalmente durante el horario comercial de China continental, y las cuentas activaron los modelos de OpenAI con el idioma chino. 

OpenAI también descubrió que quienes estaban detrás de las cuentas usaban las herramientas de forma manual, en lugar de automatizada. En algunos casos, la empresa de IA descubrió que una misma cuenta podía tener varios operadores.

Una de las principales actividades de la operación consistió en generar descripciones detalladas, coherentes con los argumentos de venta, para lo que se describió como el “Asistente de inteligencia artificial para la opinión pública en el extranjero de Qianyue” 

Esta herramienta fue diseñada para analizar publicaciones y comentarios de plataformas como X, Facebook, YouTube, Instagram, Telegram y Reddit y proporcionar a las autoridades chinas lo que descubre. 

Lamentablemente, OpenAI no ha podido verificar estas descripciones de formadent, y eldent ha puesto a Estados Unidos en alerta máxima. Según el investigador principal de OpenAI, Ben Nuimmo, este caso es un ejemplo de cómo regímenes autoritarios como China pueden intentar usar tecnología estadounidense contra Estados Unidos y sus aliados.

“Este es un vistazo bastante inquietante a la forma en que un actor no democrático intentó usar una IA democrática o con sede en Estados Unidos para fines no democráticos, según los materiales que él mismo generaba”

OpenAI también reveló que las cuentas hacían referencia a otras herramientas de IA, incluida una versión de Llama, el modelo de IA de código abierto de Meta. 

Este caso llega poco después de la creación de DeepSeek 

OpenAI ha estado haciendo sonar la alarma sobre los peligros de la IA china, especialmente después de que DeepSeek derritiera caras con su modelo de razonamiento R1, que superó a muchos otros modelos fabricados en Estados Unidos en los puntos de referencia y provocó una gran liquidación tecnológica en los mercados estadounidenses. 

DeepSeekes cuestionable, y sus creadores afirman haberla desarrollado a una fracción del costo que la mayoría de los modelos estadounidenses emplearon para construir los suyos. Esta afirmación ha generado reacciones encontradas entre el público, pero muchos expertos están convencidos de que se trata de una exageración. 

OpenAI no solo está convencido de que el equipo detrás de DeepSeek gastó más en él, sino que también acusó a DeepSeek de destilar el resultado de sus modelos para crear los suyos propios. 

Según un informe de Bloomberg, Microsoft, un importante inversor en OpenAI, ahora está investigando si los datos pertenecientes a la empresa se han utilizado sin autorización.

David Sacks, el recientemente nombrado "zar de la IA y las criptomonedas" de la Casa Blanca, se ha hecho eco de las preocupaciones de OpenAI, sugiriendo que DeepSeek puede haber utilizado los modelos de la empresa estadounidense de IA para mejorar, un proceso denominado destilación de conocimiento.

“Existen pruebas sustanciales de que lo que hizo DeepSeek fue extraer el conocimiento de los modelos de OpenAI”, dijo. 

Agregó que durante los próximos meses, las principales compañías de inteligencia artificial en Estados Unidos comenzarán a tomar medidas para evitar la destilación con la esperanza de frenar algunos de los modelos imitadores.