OpenAI pede estrutura global de segurança de IA enquanto tensões EUA-China esfumam

A OpenAI diz que a IA precisa da mesma regulamentação que a energia nuclear e quer que os EUA iniciem a criação de um regulador global para lidar com isso. 

Como relatado pela Cryptopolitan, isso ocorre enquanto o presidente Trump viajava para Pequim pela primeira visita de Estado dos EUA à China em nove anos, durante a qual a política de IA deveria estar na agenda.

De acordo com Chris Lehane, vice-presidente de assuntos globais da OpenAI, Trump e Xi na mesma sala é uma oportunidade rara para as duas nações construírem algo duradouro para a IA.

“A IA, em algum nível, transcende muitas das questões comerciais predominantes ou tradicionais. Há uma oportunidade de realmente começar a construir algo globalmente e ter países ao redor do mundo, incluindo a China, potencialmente participando,” Chris Lehane disse durante uma coletiva.

O que é a OpenAI e por que sua opinião sobre política global é um grande problema?

A OpenAI é a empresa americana que desenvolveu ChatGPT, um assistente/chatbot de IA popular usado por centenas de milhões de pessoas todos os dias.

A empresa sempre participou de todos os grandes debates sobre sistemas de IA poderosos. Seu CEO, Sam Altman, geralmente se reúne com chefes de Estado para discutir IA e até testemunha perante o Congresso, dando à empresa uma influência significativa sobre a política global de IA.

A OpenAI também está envolvida em uma disputa legal separada após o CEO da Tesla, Elon Musk processar a empresa em 2024. Musk é um dos fundadores originais da OpenAI e afirma que Sam Altman e outros executivos foram contra a missão sem fins lucrativos da empresa e a transformaram em uma organização com fins lucrativos. 

O julgamento ainda está em andamento, mas a maior história desta semana está acontecendo em Pequim.

O que a OpenAI propôs e qual é a comparação com a AIEA?

O Vice-Presidente de Assuntos Globais da OpenAI, Chris Lehane, propôs vincular duas coisas para criar algo novo.

Ele quer que o Centro para Padrões e Inovação de IA do Departamento de Comércio dos EUA e os institutos de segurança de IA se unam para construir uma rede global. Ele usou a Agência Internacional de Energia Atômica (AIEA) como exemplo de como os países conectaram seus reguladores nucleares em um único órgão geral. 

O Centro para Padrões e Inovação de IA do Departamento de Comércio dos EUA é um escritório governamental que cria padrões técnicos para sistemas de IA. 

Ao mesmo tempo, os países estão estabelecendo institutos de IA em todo o mundo. Por exemplo, o Reino Unido tem um, a UE está desenvolvendo estruturas e vários governos asiáticos também estão trabalhando em órgãos semelhantes. 

Lehane disse que um órgão unificado para a IA ajudará a construir sistemas mais seguros e resilientes, menos suscetíveis a ataques. Ele também quer que o governo dos EUA torne obrigatório que os pesquisadores do país testem os modelos de IA mais poderosos antes de implantá-los. 

O que é o modelo Mythos e por que ele agita tanto Washington quanto Pequim?

Mythos é um novo e poderoso modelo de IA que encontrou “milhares” de vulnerabilidades importantes em sistemas operacionais e outros softwares. A Anthropic (a empresa de segurança de IA apoiada pelo Google e Amazon) desenvolveu o Mythos.

A escala do que o Mythos pode fazer chocou o mundo, enquanto bancos e governos se apressavam para corrigir suas defesas de segurança após o anúncio. Funcionários da Casa Branca até reconheceram que modelos como o Mythos tornaram a comunicação com a China mais importante do que nunca. 

A China foi excluída do acesso antecipado a uma prévia do Mythos, levantando preocupações sobre a capacidade dos desenvolvedores e do governo do país de se defenderem contra ataques que usam o modelo de IA. 

A empresa de inteligência de mercado IDC China até alertou que deixar a China de fora do Mythos poderia criar uma “lacuna geracional” nas capacidades de defesa de IA entre a China e o Ocidente. 

De acordo com pesquisadores, os atacantes poderiam usar IA avançada para projetar bioweapons, desencadear choques financeiros ou agir autonomamente sem controle humano. A parte mais assustadora é que a IA só precisa ser poderosa, rápida e apontada na direção errada para fazer todas essas coisas. 

O que aconteceu na reunião Trump-Xi e sobre o que eles discutiram?

A delegação dos EUA à China incluiu o CEO da Nvidia, Jensen Huang, e o principal assessor de política tecnológica da Casa Branca, Michael Kratsios. Sua presença na viagem tornou a reunião uma prioridade e uma questão urgente, já que ambas as partes estavam preparadas para discutir questões de IA diretamente. 

A China propôs um diálogo formal sobre questões de IA, liderado pelo Secretário do Tesouro Scott Bessent e pelo Vice-Ministro das Finanças chinês, Liao Min. Mas as expectativas para o canal são baixas porque nenhuma das agências é especializada em IA.

Os EUA também planejavam levantar preocupações de que desenvolvedores chineses estavam usando saídas de modelos de IA avançados para construir sistemas a uma fração do custo, mas com menos barreiras de segurança.

Ambas as partes também discutiram a possibilidade de estabelecer uma linha direta sem culpa para relatar incidentes suspeitos impulsionados por IA, semelhante às linhas diretas militares.

Analistas até sugeriram que ambos os governos poderiam se comprometer com diretrizes para modelos de IA de fronteira, semelhantes ao Acordo de Cibersegurança EUA-China de 2015.

Finalmente, as discussões também poderiam tocar no MATCH Act, uma lei proposta dos EUA que visa limitar o acesso da China às cadeias de suprimentos de semicondutores. 

Sun Chenghao, da Universidade de Tsinghua, participou das conversas de IA entre EUA e China e disse que os EUA devem traçar uma linha clara entre gerenciar riscos de segurança da IA e simplesmente tentar bloquear o desenvolvimento tecnológico da China. 

“A China provavelmente espera que os EUA distingam adequadamente entre governança de IA e contenção tecnológica,” disse Sun Chenghao.