O ex-CEO do Google, Eric Schmidt, alerta contra um "Projeto Manhattan" para o desenvolvimento de IA

Em um documento de política publicado na quarta-feira, o ex-CEO do Google, Eric Schmidt, alertou que os EUA não devem insistir em um projeto nos moldes do Projeto Manhattan para o desenvolvimento de sistemas de IA. 

O artigo “Estratégia de Superinteligência” mencionou que a busca agressiva pelo controle de sistemas de IA superinteligentes poderia resultar em retaliação por parte de países como a China. Tal retaliação poderia assumir a forma de ciberataques, impactando diretamente as relações internacionais. 

O documento de política foi escrito em conjunto por Alexandr Wang, CEO da Scale AI, e Dan Hendricks, diretor do Centro para Segurança da IA. Os coautores escreveram: “[Um] Projeto Manhattan [para IAG] pressupõe que os rivais irão se conformar com um desequilíbrio duradouro ou um genocídio generalizado, em vez de agir para evitá-lo.” 

Os autores acrescentaram ainda: "O que começa como uma busca por uma superarma e pelo controle global corre o risco de provocar contramedidas hostis e aumentar as tensões, minando assim a própria estabilidade que a estratégia pretende garantir."

Este artigo foi publicado poucos meses depois de a Comissão do Congresso dos EUA ter proposto um esquema de financiamento nos moldes do "Projeto Manhattan" para desenvolver Inteligência Artificial Geral. O projeto é inspirado nos esforços dos EUA para desenvolver a bomba atômica na década de 1940. 

Christ Wright, Secretário de Energia dos EUA, mencionou que os EUA estão prestes a iniciar um “novo Projeto Manhattan” em Inteligência Artificial. Ele disse: “Com a liderança do Presidentedent , os Estados Unidos vencerão a corrida global da IA, mas primeiro, devemos liberar nossa dominância energética e restaurar a competitividade americana.”

Diversos líderes da indústria e formuladores de políticas americanas sugeriram que a busca por um programa de desenvolvimento de IA com apoio governamental é a melhor maneira de competir com países como a China. No entanto, o documento "Estratégia de Superinteligência" contesta essa ideia. 

Eric Schmidt se refere a isso como destruição mútua assegurada 

O autor argumentou que, assim como as potências globais evitam monopólios sobre armas nucleares (porque estes podem desencadear retaliações na forma de sabotagem preventiva), os EUA devem ter cautela ao tentar dominar com sistemas de IA poderosos.

Eric Schmidt falou sobre um conceito chamado MAIM (mau funcionamento mútuo garantido da IA). Refere-se a governos de outros países que tentam ativamente desativar ameaças baseadas em IA, em vez de esperar que a Inteligência Artificial Geral (IAG) seja usada como arma contra eles. 

Os autores argumentaram que, em vez de se concentrarem em "vencer a corrida pela superinteligência", os EUA deveriam desenvolver métodos para dissuadir outros de criarem tais sistemas. Acrescentaram ainda que os EUA deveriam "expandir seu arsenal de ciberataques para desativar projetos de IA ameaçadores"

No entanto, o governo Trump parece determinado a impulsionar os EUA na corrida da IA. Schmidt, por sua vez, argumenta que é prudente considerar uma abordagem defensiva, enquanto o mundo observa os EUA explorarem os limites da IA.