OpenAI amplía la seguridad para proteger la propiedad intelectual de las amenazas del espionaje extranjero chino

OpenAI ha renovado sus medidas de seguridad para protegerse de amenazas externas. La compañía de inteligencia artificial, valorada en 300.000 millones de dólares y conocida mundialmente por productos como ChatGPT, ha implementado una amplia revisión de seguridad que incluye controles de acceso más estrictos, una mayor verificación de antecedentes de los empleados y medidas de seguridad físicas.

Aunque la compañía ha negado la afirmación de que sus acciones sean en respuesta a su competencia, OpenAI ha reforzado sus procedimientos de seguridad después de un incidentedent en enero que involucró a la startup china DeepSeek.

OpenAI renueva la seguridad

OpenAI ha incrementadomaticsus medidas de seguridad interna en los últimos meses para proteger su propiedad intelectual del espionaje extranjero, en particular el de China. La compañía comenzó a implementar protocolos más estrictos el año pasado, pero estos esfuerzos cobraron mayor urgencia tras el lanzamiento de DeepSeek en enero.

OpenAI sospecha que la empresa rival utilizó la "destilación" para desarrollar y lanzar un producto competidor. La destilación es una técnica que consiste en entrenar un nuevo modelo para imitar el comportamiento de otro.

«Este incidente impulsó a OpenAI a ser mucho más rigurosa», declaró una fuente cercana al equipo de seguridad. Desde entonces, la empresa ha estado expandiendo agresivamente sus operaciones de ciberseguridad y reforzando el control sobre el acceso a investigaciones confidenciales, datos de modelos e infraestructura.

Hasta el momento, DeepSeek no ha respondido a las acusaciones.

Eldent de DeepSeek también desencadenó una represión interna generalizada en OpenAI. Se aplican nuevas políticas, conocidas internamente como "información en reserva", para determinar cómo se accede y se comparte la información confidencial.

Sólo un pequeño círculo de miembros del personal puede acceder a proyectos de investigación de primer nivel, y aquellos involucrados en ciertos desarrollos deben confirmar que otras personas con las que interactúan también son parte de la misma “tienda”

Este enfoque cauteloso se implementó durante el desarrollo del modelo de próxima generación de OpenAI, conocido internamente como "Strawberry". Se indicó al personal que no discutiera el proyecto en espacios abiertos de oficina a menos que estuvieran seguros de que sus colegas estaban oficialmente autorizados a participar.

Este secretismo ha provocado algunas fricciones internas; un empleado lo describió como “muy estricto” y afirmó que “o lo tenías todo o no tenías nada”

A nivel de sistema, OpenAI ahora almacena gran parte de su tecnología patentada en entornos aislados y sin conexión. Esta infraestructura aislada separa los sistemas críticos de las redes más amplias y de la internet pública, lo que reduce el riesgo de infiltración remota.

También se ha mejorado la seguridad física y se requiere acceso biométrico mediante huellas dactilares para ciertas salas de la oficina de la empresa en San Francisco.

Para evitar aún más la filtración de los parámetros clave que rigen la respuesta de los modelos de OpenAI a las solicitudes de los usuarios, la empresa ha implementado una estricta política de denegación de salida por defecto. Esto significa que los sistemas no pueden conectarse a internet a menos que se autorice específicamente.

El liderazgo de la IA se ha convertido en un campo de batalla entre Estados Unidos y China

Existe una competencia implacable entre Estados Unidos y China por el liderazgo en tecnologías emergentes, particularmente inteligencia artificial.

Washington ha impuesto una serie de controles a las exportaciones para impedir que Pekín adquiera semiconductores avanzados y tecnologías relacionadas. Al mismo tiempo, las agencias de inteligencia estadounidenses han advertido que actores extranjeros han intensificado sus esfuerzos para robar datos confidenciales de empresas tecnológicas estadounidenses.

El aumento de las amenazas de espionaje ha obligado a varias grandes empresas de Silicon Valley a adoptar un control más riguroso de sus nuevas contrataciones, y OpenAI no es la excepción. Las empresas de inteligencia artificial y tecnología comenzaron a evaluar con mayor seriedad los riesgos de amenazas internas desde 2023.

En octubre del año pasado, OpenAI contrató a Dane Stuckey como su nuevo director de seguridad de la información. Stuckey, quien anteriormente ocupó el mismo cargo en Palantir, aporta un enfoque centrado en la seguridad nacional a la estrategia de defensa de la organización.

Stuckey trabaja en estrecha colaboración con Matt Knight,dent de productos de seguridad de OpenAI, quien actualmente encabeza los esfuerzos para utilizar los grandes modelos de lenguaje de la empresa como herramientas para defenderse de las amenazas cibernéticas.

Además, OpenAI incorporó a su junta directiva el año pasado al general retirado del Ejército estadounidense Paul Nakasone. Nakasone fue jefe del Comando Cibernético de EE. UU. y de la Agencia de Seguridad Nacional (NSA). Aporta un profundo conocimiento de las amenazas a la ciberseguridad y las estrategias de defensa al equipo ejecutivo de OpenAI.

A pesar de la gravedad de estos cambios, OpenAI ha declarado que la revisión de seguridad no es una respuesta directa a ningúndent.

Un portavoz de la compañía dijo al Financial Times que las actualizaciones son parte de las inversiones de la compañía en privacidad y seguridad, ya que su objetivo es liderar la industria.

La creciente atención al espionaje extranjero, en particular el proveniente de China, ha suscitado preocupación por el posible avivamiento de corrientes xenófobas subyacentes en la industria. Diversos expertos y observadores han expresado su preocupación por que las amplias políticas de seguridad puedan alienar involuntariamente a los empleados de ascendencia asiática o dar lugar a un escrutinio indebido basado en la nacionalidad en lugar de en indicadores de amenaza reales.