A OpenAI escala a segurança para proteger a propriedade intelectual de ameaças de espionagem estrangeira chinesa

A OpenAI reformulou suas medidas de segurança para se proteger contra ameaças estrangeiras. A empresa de inteligência artificial avaliada em US$ 300 bilhões, conhecida globalmente por produtos como o ChatGPT, implementou uma ampla reforma de segurança que inclui controles de acesso mais rigorosos, triagem aprimorada de funcionários e salvaguardas físicas.

Embora a empresa tenha negado a alegação de que suas ações são uma resposta à sua concorrência, a OpenAI reforçou seus procedimentos de segurança após um incidente em janeiro envolvendo a startup chinesa DeepSeek.

A OpenAI reformula a segurança

A OpenAI aumentou dramaticamente suas medidas internas de segurança nos últimos meses para proteger sua propriedade intelectual de espionagem estrangeira, particularmente da China. A empresa começou a implementar protocolos mais rigorosos no ano passado, mas esses esforços ganharam urgência renovada após o lançamento do DeepSeek em janeiro.

A OpenAI suspeita que a empresa rival usou “destilação” para desenvolver e lançar um produto concorrente. A destilação é uma técnica que envolve treinar um novo modelo para imitar o comportamento de outro.

“O episódio levou a OpenAI a ser muito mais rigorosa”, disse uma fonte próxima à equipe de segurança. Desde então, a empresa tem expandido agressivamente suas operações de cibersegurança e apertado o controle sobre o acesso a pesquisas sensíveis, dados de modelos e infraestrutura.

Até o momento, a DeepSeek não respondeu às alegações.

O incidente da DeepSeek também provocou uma ampla repressão interna na OpenAI. Novas políticas, conhecidas internamente como “tendas de informação”, são agora usadas para determinar como os dados sensíveis são acessados e compartilhados.

Apenas um pequeno círculo de membros da equipe pode acessar projetos de pesquisa de alto nível, e aqueles envolvidos em certos desenvolvimentos devem confirmar que as outras pessoas com as quais interagem também fazem parte da mesma “tenda”.

Essa abordagem cautelosa foi implementada durante o desenvolvimento do modelo de próxima geração da OpenAI, referido internamente como “Strawberry”. Os funcionários foram instruídos a não discutir o projeto em espaços de escritório abertos, a menos que tivessem certeza de que seus colegas estavam oficialmente autorizados a fazer parte dele.

Este sigilo causou alguma fricção interna, com um funcionário descrevendo-o como “muito apertado”, afirmando: “você tinha tudo ou nada”.

No nível do sistema, OpenAI agora armazena grande parte de sua tecnologia proprietária em ambientes isolados e offline. Essa infraestrutura air-gapped separa sistemas críticos de redes mais amplas e da internet pública, reduzindo o risco de infiltração remota.

A segurança física também foi atualizada, com acesso biométrico por impressão digital exigido para certas salas no escritório da empresa em São Francisco.

Para evitar ainda mais o vazamento dos parâmetros-chave que governam como os modelos da OpenAI respondem aos prompts dos usuários, a empresa impôs uma rigorosa “política de egresso negar-padrão”. Isso significa que os sistemas são bloqueados de se conectar à internet, a menos que especificamente aprovados.

A liderança em IA tornou-se um campo de batalha EUA-China

Há uma competição implacável entre os EUA e a China pela liderança em tecnologias emergentes, particularmente inteligência artificial.

Washington impôs uma série de controles de exportação projetados para impedir que Pequim adquira semicondutores avançados e tecnologias relacionadas. Ao mesmo tempo, agências de inteligência dos EUA alertaram que atores estrangeiros aumentaram seus esforços para roubar dados sensíveis de empresas de tecnologia americanas.

A escalada nas ameaças de espionagem levou várias grandes empresas do Vale do Silício a adotar uma triagem mais rigorosa de novos contratados, sendo a OpenAI não exceção. As empresas de IA e tecnologia começaram a avaliar os riscos de ameaças internas com mais seriedade desde 2023.

Em outubro do ano passado, a OpenAI contratou Dane Stuckey como seu novo diretor de segurança da informação. Stuckey, que anteriormente ocupava o mesmo cargo na Palantir, traz uma abordagem focada em segurança nacional para a estratégia de defesa da organização.

Stuckey trabalha em estreita colaboração com Matt Knight, vice-presidente de produtos de segurança da OpenAI, que está liderando os esforços para usar os próprios modelos de linguagem de grande escala da empresa como ferramentas para se defender de ameaças cibernéticas.

Além disso, a OpenAI adicionou o general aposentado do Exército dos EUA, Paul Nakasone, ao seu conselho no ano passado. Nakasone era o ex-chefe do Comando Cibernético dos EUA e da Agência de Segurança Nacional (NSA). Ele traz um entendimento de alto nível das ameaças de cibersegurança e estratégias de defesa para a equipe executiva da OpenAI.

Apesar da natureza séria dessas mudanças, a OpenAI afirmou que a reforma da segurança não é uma resposta direta a qualquer incidente único.

Um porta-voz da empresa disse ao Financial Times que as atualizações fazem parte dos investimentos da empresa em privacidade e segurança, enquanto visa liderar a indústria.

O foco aumentado na espionagem estrangeira, particularmente da China, levantou preocupações sobre o estímulo a subcorrentes xenófobas na indústria. Vários insiders e observadores levantaram preocupações de que as políticas de segurança abrangentes possam alienar inadvertidamente funcionários de ascendência asiática ou levar a um escrutínio indevido baseado na nacionalidade em vez de indicadores reais de ameaça.