A rivalidade tecnológica entre China e EUA e a urgência da segurança global da IA

Enquanto o mundo lida com o rápido avanço da inteligência artificial (IA), os formuladores de políticas enfrentam um dilema urgente: o potencial da IA ​​para introduzir riscos catastróficos que podem transcender as fronteiras nacionais. Embora a natureza exata e a probabilidade desses riscos permaneçam incertas, especialistas enfatizam a necessidade de medidas proativas para prevenir desastres causados ​​pela IA. 

O desafio das catástrofes da IA

A inteligência artificial (IA) tem o potencial de desencadear eventos catastróficos com consequências de longo alcance. Isso inclui o uso malicioso da IA ​​para criar patógenos letais, a engenharia de crises financeiras impulsionada por IA e o surgimento de sistemas de IA descontrolados. A imprevisibilidade das catástrofes causadas pela IA levou muitos a descartá-las como possibilidades remotas. No entanto, esperar por evidências concretas antes de agir pode ser tarde demais, como demonstrado pela pandemia de COVID-19.

Aprendendo com o passado, devemos reconhecer a dificuldade que as pessoas têm em compreender a importância dos riscos remotos. O alerta de Bill Gates sobre a vulnerabilidade a um vírus de rápida propagação foi ignorado até que o impacto devastador da pandemia de coronavírus se tornasse realidade. Não devemos repetir esse erro ao lidar com as incertezas que cercam a IA.

Adoção gradual de tecnologias de IA

Os professores do MIT, Daron Acemoglu e Todd Lensman, propõem uma abordagem cautelosa para a adoção de tecnologias transformadoras. A sociedade deve adotar novas tecnologias gradualmente, permitindo tempo para a avaliação de riscos. Uma vez que haja maior certeza de que desastres são improváveis, a sociedade pode acelerar a adoção. No entanto, as práticas atuais das principais nações contradizem essa abordagem.

Os Estados Unidos e a China estão atualmente em uma intensa rivalidade para afirmar a supremacia em IA. Ambas as nações estão ansiosas para avançar em suas capacidades de IA, mas essa competição ocorre sem um foco proporcional na segurança da IA.

Nos Estados Unidos, empresas de IA de ponta estão desenvolvendo modelos fundamentais poderosos com riscos potenciais para a segurança pública. Apesar dos investimentos substanciais no desenvolvimento de IA, essas empresas têm alocado recursos limitados para garantir a segurança da IA. A recente ordem executiva dodent Joe Biden visa abordar essa questão, exigindo que os desenvolvedores de modelos de IA de vanguarda compartilhem os resultados dos testes de segurança e informações vitais com o governo. Além disso, os EUA adotaram medidas para conter o progresso da IA ​​na China, incluindo restrições à exportação e proibições de investimento americano no setor de IA chinês. Essas ações, embora desacelerem o avanço da China, incentivam as empresas chinesas a buscarem a autossuficiência tecnológica, o que pode complicar ainda mais a avaliação de riscos da IA.

Impacto da rivalidade tecnológica entre China e EUA na segurança da IA

A rivalidade tecnológica em curso também influenciou a abordagem de Pequim à regulamentação da IA. Embora a China tenha introduzido regulamentações abrangentes para serviços de IA generativa, estas aplicam-se principalmente a serviços públicos e focam-se no controlo de conteúdo e informação. Os serviços para fins comerciais permanecem menos regulamentados, refletindo a estratégia da China de fomentar o crescimento neste setor tecnológico crucial para competir com os EUA. Esta competição corre o risco de desencadear uma "corrida para o fundo do poço" na governação da IA ​​entre as principais potências mundiais em IA.

A importância da colaboração internacional

Para lidar com os riscos iminentes da IA, a comunidade internacional deve reconhecer as consequências potencialmente catastróficas e instar as empresas globais de IA a estabelecerem protocolos de segurança robustos. A próxima cúpula de segurança de IA do Reino Unido é um ponto de partida crucial para iniciar um diálogo sobre essas questões vitais.

A rivalidade tecnológica entre China e EUA na área da inteligência artificial trouxe à tona preocupações sobre a negligência da segurança da IA. Embora a competição possa impulsionar a inovação, ela não deve ofuscar a necessidade urgente de colaboração para mitigar os riscos da IA. O mundo deve atentar para as lições das crises passadas e trabalhar em conjunto de forma proativa para garantir o desenvolvimento e a regulamentação responsáveis ​​da IA. Somente por meio da colaboração internacional podemos esperar conter as consequências potencialmente catastróficas das tecnologias de IA.