OpenAI escala la seguridad para proteger la propiedad intelectual de las amenazas de espionaje extranjero chino

OpenAI ha renovado sus medidas de seguridad para protegerse contra amenazas extranjeras. La empresa de inteligencia artificial valorada en $300 mil millones, conocida globalmente por productos como ChatGPT, ha implementado una amplia revisión de seguridad que incluye controles de acceso más estrictos, una mayor verificación de empleados y salvaguardas físicas.

Aunque la empresa ha negado la afirmación de que sus acciones son una respuesta a su competencia, OpenAI ha reforzado sus procedimientos de seguridad después de un incidente en enero que involucró a la startup china DeepSeek.

OpenAI revisa la seguridad

OpenAI ha aumentado drásticamente sus medidas de seguridad internas en los últimos meses para salvaguardar su propiedad intelectual del espionaje extranjero, particularmente de China. La empresa comenzó a implementar protocolos más estrictos el año pasado, pero estos esfuerzos ganaron urgencia renovada después del lanzamiento de DeepSeek en enero.

OpenAI sospecha que la empresa rival utilizó “destilación” para desarrollar y lanzar un producto competitivo. La destilación es una técnica que implica entrenar un nuevo modelo para imitar el comportamiento de otro.

“El episodio llevó a OpenAI a ser mucho más rigurosa”, dijo una fuente cercana al equipo de seguridad. Desde entonces, la empresa ha estado expandiendo agresivamente sus operaciones de ciberseguridad y ajustando el control sobre el acceso a investigaciones sensibles, datos de modelos e infraestructura.

Hasta ahora, DeepSeek no ha respondido a las acusaciones.

El incidente de DeepSeek también provocó una represión interna generalizada en OpenAI. Nuevas políticas, conocidas internamente como “tiendas de campaña de información”, se utilizan ahora para determinar cómo se accede y comparte los datos sensibles.

Solo un pequeño círculo de miembros del personal puede acceder a proyectos de investigación de alto nivel, y aquellos involucrados en ciertos desarrollos deben confirmar que otros con los que interactúan también forman parte de la misma “tienda de campaña”.

Este enfoque cauteloso se implementó durante el desarrollo del modelo de próxima generación de OpenAI, referido internamente como “Fresa”. Se instruyó al personal para que no discutiera el proyecto en espacios de oficina abiertos a menos que estuvieran seguros de que sus colegas estaban oficialmente autorizados a formar parte de él.

Este secreto ha causado cierta fricción interna, con un empleado describiéndolo como “muy ajustado”, afirmando: “o lo tenías todo o no tenías nada”.

A nivel del sistema, OpenAI ahora almacena gran parte de su tecnología propietaria en entornos aislados y fuera de línea. Esta infraestructura air-gapped separa los sistemas críticos de las redes más amplias y de Internet público, reduciendo el riesgo de infiltración remota.

La seguridad física también ha sido mejorada, con acceso biométrico por huella dactilar requerido para ciertas habitaciones en la oficina de San Francisco de la empresa.

Para prevenir aún más la filtración de los parámetros clave que gobiernan cómo responden los modelos de OpenAI a los prompts de los usuarios, la empresa ha aplicado una estricta “política de egreso denegado por defecto”. Esto significa que los sistemas están bloqueados para conectarse a Internet a menos que estén específicamente aprobados.

El liderazgo en IA se ha convertido en un campo de batalla entre EE. UU. y China

Existe una competencia implacable entre EE. UU. y China por el liderazgo en tecnologías emergentes, particularmente la inteligencia artificial.

Washington ha impuesto una serie de controles de exportación diseñados para evitar que Pekín adquiera semiconductores avanzados y tecnologías relacionadas. Al mismo tiempo, las agencias de inteligencia de EE. UU. han advertido que actores extranjeros han aumentado sus esfuerzos para robar datos sensibles de empresas tecnológicas americanas.

La escalada en las amenazas de espionaje ha llevado a varias grandes empresas de Silicon Valley a adoptar una selección más estricta de nuevos empleados, sin que OpenAI sea la excepción. Las empresas de IA y tecnología comenzaron a evaluar los riesgos de amenazas internas con más seriedad desde 2023.

En octubre del año pasado, OpenAI contrató a Dane Stuckey como su nuevo director de seguridad de la información. Stuckey, quien anteriormente ocupó el mismo cargo en Palantir, aporta un enfoque centrado en la seguridad nacional a la estrategia de defensa de la organización.

Stuckey trabaja estrechamente con Matt Knight, vicepresidente de productos de seguridad de OpenAI, quien está liderando actualmente los esfuerzos para utilizar los propios modelos de lenguaje grande de la empresa como herramientas para defenderse de las amenazas cibernéticas.

Además, OpenAI incorporó al general retirado del Ejército de EE. UU. Paul Nakasone a su junta directiva el año pasado. Nakasone fue el ex jefe del Comando Cibernético de EE. UU. y de la Agencia de Seguridad Nacional (NSA). Aporta una comprensión de alto nivel de las amenazas de ciberseguridad y estrategias de defensa al equipo ejecutivo de OpenAI.

A pesar de la naturaleza seria de estos cambios, OpenAI ha declarado que la revisión de seguridad no es una respuesta directa a ningún incidente en particular.

Un portavoz de la empresa le dijo a Financial Times que las mejoras son parte de las inversiones de la empresa en privacidad y seguridad mientras busca liderar la industria.

El mayor enfoque en el espionaje extranjero, particularmente de China, ha generado preocupaciones sobre avivar subcorrientes xenófobas en la industria. Varios insiders y observadores han expresado preocupaciones de que las amplias políticas de seguridad puedan alienar involuntariamente a empleados de ascendencia asiática o llevar a un escrutinio indebido basado en la nacionalidad en lugar de indicadores de amenaza reales.