El memorando de OpenAI a los legisladores de EE. UU. acusa a DeepSeek de China de eludir los controles de acceso
- OpenAI informa a los legisladores estadounidenses que la startup china de IA DeepSeek está eludiendo los controles de acceso para extraer y replicar modelos de IA estadounidenses mediante métodos sofisticados de destilación.
- El memorándum detalla supresión de censura, sesgo pro-PCCh y contenido dinámico dentro de los sistemas de DeepSeek, junto con preocupaciones sobre la falta de salvaguardas de seguridad.
- OpenAI también destaca la rápida expansión energética de China y el acceso a chips, advirtiendo que la capacidad de cómputo y la infraestructura son centrales en la intensificada carrera de IA entre EE. UU. y China.
OpenAI ha advertido al gobierno de EE. UU. que la startup china de inteligencia artificial DeepSeek está intentando replicar los sistemas de IA estadounidenses eludiendo las salvaguardias de la plataforma y extrayendo salidas del modelo.
En un memorando enviado el jueves al Comité Selecto de la Cámara de Representantes de EE. UU. sobre Competencia Estratégica entre América y el Partido Comunista Chino, el desarrollador del modelo de lenguaje grande ChatGPT acusó a su competidor con sede en Hangzhou de copiar sistemáticamente la tecnología desarrollada por laboratorios fronterizos de EE. UU.
https://twitter.com/niubi/status/2022132145465307425
El informe afirma que DeepSeek ha estado «montándose en las capacidades desarrolladas por OpenAI y otros laboratorios fronterizos de EE. UU.», una práctica conocida como destilación.
«Hemos observado cuentas asociadas con empleados de DeepSeek desarrollando métodos para eludir las restricciones de acceso de OpenAI y acceder a modelos a través de enrutadores de terceros ofuscados y otras formas que ocultan su origen», la empresa escribió. «Los empleados de DeepSeek desarrollaron código para acceder a modelos de IA de EE. UU. y obtener salidas para destilación de manera programática».
Washington y Pekín han estado compitiendo por el primer lugar en IA desde que DeepSeek debutó hace unos 12 meses. Después de que se lanzó el modelo LLM chino, el Comité Selecto de la Cámara de Representantes de EE. UU. observó que el PCCh solicitó a OpenAI que investigara si DeepSeek había utilizado alguna tecnología o chips de IA de EE. UU. en su desarrollo.
El creador de ChatGPT acusa a DeepSeek de destilación ilegal
Según la firma tecnológica liderada por Sam Altman, actores chinos están utilizando canales de información para imitar los métodos de los laboratorios de EE. UU. de generación de datos sintéticos de IA. La compañía también informó que algunas empresas chinas han creado redes de revendedores no autorizados de servicios de OpenAI para evadir a las fuerzas del orden.
“Existen casos de uso legítimos para la destilación: como una técnica utilizada para entrenar modelos más pequeños utilizando salidas de sistemas más avanzados. OpenAI proporciona vías de destilación responsable para los desarrolladores. Sin embargo, no permitimos que nuestras salidas se utilicen para crear modelos de IA de vanguardia imitadores que repliquen nuestras capacidades.”
OpenAI.
OpenAI también advirtió que copiar capacidades mediante destilación adversarial, sin marcos de seguridad equivalentes, puede producir sistemas que carezcan de protecciones al consumidor, aunque sean más baratos de escalar. Dijo que las deficiencias en dichos sistemas podrían manifestarse solo después del despliegue, cuando los riesgos son más difíciles de gestionar.
Más allá de las acusaciones técnicas, el memorándum de OpenAI señaló que la gobernanza de contenidos de DeepSeek se encontró políticamente sesgada e imponía una extensa censura. Dentro del ámbito de la compañía, el LLM más utilizado en China mostró un severo sesgo pro-PCCh en sus lanzamientos recientes.
“El modelo evitará el lenguaje negativo o crítico sobre el PCCh, utilizará un lenguaje positivo sobre los esfuerzos y logros de la RPC, y usará lenguaje negativo al discutir a EE. UU. u Occidente.”
Memorándum de OpenAI.
OpenAI dijo que cuando DeepSeek se le hicieron preguntas sobre temas sensibles para Pekín, como la Plaza de Tiananmén o la independencia de Taiwán, a menudo emitía rechazos directos. En otros casos, DeepSeek emitió respuestas sesgadas a historias favorables a la RPC y redirigió los prompts que parecían ser críticas al PCCh.
“En algunas ocasiones, DeepSeek se niega a dar una respuesta que considera ‘perjudicial’. Cuando se le pregunta por qué la pregunta es perjudicial, se ha observado que explica sus ‘principios de seguridad’, luego elimina la conversación. Cuando se le preguntó sobre Falun Gong, se negó a responder, y al buscar una explicación, la respuesta se autoeliminó inmediatamente después de completar la palabra Falun.”
OpenAI.
EE. UU. tiene una ventaja sobre China debido a los chips tecnológicos
Según el memorándum de OpenAI dirigido a los legisladores de EE. UU., el recurso más escaso en IA es el poder combinado y los recursos de chips necesarios para ejecutar código, definido como computación (compute). Dijo que mantener la ventaja estadounidense depende de la capacidad de generar y entregar electricidad a gran escala para apoyar las demandas computacionales.
El mes pasado, dos fuentes familiarizadas con el asunto dijeron a los reporteros que las autoridades chinas han aprobado que DeepSeek compre chips de inteligencia artificial H200 de Nvidia, sujeto a condiciones regulatorias que aún se están finalizando.
El presidente de EE. UU., Trump aprobó la solicitud de Nvidia para enviar chips H200 a Pekín a principios de enero, pero los reguladores chinos tienen la autoridad final para permitir los envíos. En ese momento, el director ejecutivo de Nvidia, Jensen Huang, dijo que su compañía no había recibido noticias de la aprobación de China.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Florence Muchai
Florence ha estado cubriendo durante los últimos 6 años noticias sobre criptomonedas, juegos, tecnología e inteligencia artificial. Sus estudios de Ciencias de la Computación en la Universidad de Ciencias y Tecnología de Meru y Gestión de Desastres y Diplomacia Internacional en MMUST la dotan adecuadamente de habilidades lingüísticas, de observación y técnicas. Florence ha trabajado en VAP Group y como editora en varias casas de medios de criptomonedas.
