Rivalidade Tecnológica China-EUA e a Urgência da Segurança Global da IA

Enquanto o mundo lida com o rápido avanço da inteligência artificial (IA), os formuladores de políticas enfrentam um dilema urgente: o potencial da IA de introduzir riscos catastróficos que poderiam transcender as fronteiras nacionais. Embora a natureza exata e a probabilidade desses riscos permaneçam incertas, os especialistas enfatizam a necessidade de medidas proativas para prevenir desastres de IA. 

O desafio dos desastres da IA

A IA pode potencialmente trazer eventos catastróficos que poderiam ter consequências de longo alcance. Isso inclui o uso malicioso da IA para criar patógenos letais, a engenharia de crises financeiras impulsionada por IA e o surgimento de sistemas de IA fora do controle humano. A imprevisibilidade dos desastres da IA levou muitos a descartá-los como possibilidades remotas. No entanto, esperar por evidências concretas antes de agir pode ser tarde demais, como demonstrado pela pandemia de COVID-19.

Aprendendo com o passado, devemos reconhecer a dificuldade das pessoas em compreender a importância dos riscos remotos. O alerta de Bill Gates sobre a vulnerabilidade a um vírus de rápida propagação passou despercebido até que o impacto devastador da pandemia de coronavírus se tornou realidade. Não devemos repetir esse erro ao abordar as incertezas em torno da IA.

Adoção gradual das tecnologias de IA

Os professores do MIT, Daron Acemoglu e Todd Lensman, propõem uma abordagem cautelosa para a adoção de tecnologias transformadoras. A sociedade deve adotar gradualmente novas tecnologias para permitir tempo para a avaliação de riscos. Quando se tornar mais certo que os desastres são improváveis, a sociedade pode acelerar a adoção. No entanto, as práticas atuais das nações líderes contradizem essa abordagem.

Os EUA e a China estão atualmente em uma rivalidade intensa para afirmar a dominância na IA. Ambas as nações estão ansiosas para avançar suas capacidades de IA, mas essa competição está ocorrendo sem um foco correspondente na segurança da IA.

Nos Estados Unidos, empresas de IA de ponta estão desenvolvendo modelos fundamentais poderosos com riscos potenciais à segurança pública. Apesar de investimentos substanciais no desenvolvimento de IA, essas empresas alocaram recursos limitados para garantir a segurança da IA. A ordem executiva recente do presidente Joe Biden visa abordar isso, exigindo que os desenvolvedores de modelos de IA de fronteira compartilhem resultados de testes de segurança e informações vitais com o governo. Além disso, os EUA tomaram medidas para frear o progresso da IA na China, incluindo restrições de exportação e proibições de investimento dos EUA no setor de IA da China. Essas ações, embora desacelerando o avanço da China, encorajam as empresas chinesas a buscar a autossuficiência tecnológica, o que pode complicar ainda mais a avaliação de riscos da IA.

Impacto da rivalidade tecnológica China-EUA na segurança da IA

A rivalidade tecnológica em andamento também influenciou a abordagem de Pequim em relação à regulamentação da IA. Embora a China tenha introduzido regulamentações abrangentes para serviços de IA generativa, estas se aplicam principalmente a serviços públicos e focam no controle de conteúdo e informações. Os serviços para fins comerciais permanecem menos regulamentados, refletindo a estratégia da China de fomentar o crescimento neste setor tecnológico crítico para competir com os EUA. Essa competição corre o risco de desencadear uma “corrida para o fundo” na governança da IA entre as principais potências de IA do mundo.

A importância da colaboração internacional

Para enfrentar os riscos iminentes da IA, a comunidade internacional deve reconhecer as consequências potencialmente catastróficas e instar as empresas globais de IA a estabelecer protocolos de segurança robustos. A próxima Cúpula de Segurança de IA do Reino Unido é um ponto de partida crítico para iniciar um diálogo sobre essas questões vitais.

A rivalidade tecnológica China-EUA em inteligência artificial trouxe à tona preocupações sobre a negligência da segurança da IA. Embora a competição possa impulsionar a inovação, ela não deve ofuscar a necessidade urgente de colaborar na mitigação dos riscos da IA. O mundo deve ouvir as lições das crises passadas e trabalhar proativamente em conjunto para garantir o desenvolvimento e a regulamentação responsáveis da IA. Apenas por meio da colaboração internacional podemos esperar conter as consequências potencialmente catastróficas das tecnologias de IA.