Vencedores do Prêmio Nobel juntam-se a políticos e cientistas em chamada urgente para restringir usos perigosos da IA
- Mais de 200 líderes, incluindo 10 ganhadores do Prêmio Nobel e principais pesquisadores de IA, estão exigindo limites internacionais vinculantes para usos perigosos da IA até 2026.
- As proibições propostas incluem armas autônomas letais, IA autorreplicante e o uso de IA na guerra nuclear.
- O apelo global, lançado na Assembleia Geral da ONU, enfatiza que promessas voluntárias das empresas de IA são insuficientes.
A campanha para pressionar governos a concordar com limites internacionais vinculantes para restringir o abuso da tecnologia de IA foi escalada para o nível da ONU, já que mais de 200 políticos, cientistas e líderes de pensamento de destaque, incluindo 10 vencedores do Prêmio Nobel, emitiram um alerta sobre os riscos da tecnologia.
A declaração, divulgada na segunda-feira na abertura da Semana de Alto Nível da Assembleia Geral das Nações Unidas, é chamada de Chamada Global por Linhas Vermelhas para IA. Ela argumenta que a “trajetória atual da IA apresenta perigos sem precedentes” e exige que os países trabalhem rumo a um acordo internacional sobre restrições claras e verificáveis até o final de 2026.
Vencedores do Prêmio Nobel lideram apelo na ONU
O apelo foi revelado pela laureada do Prêmio Nobel da Paz e jornalista Maria Ressa, que usou seu discurso de abertura para instar os governos a “prevenir riscos universalmente inaceitáveis” e definir o que a IA nunca deve ser permitida a fazer.
Os signatários da declaração incluem recipientes do Prêmio Nobel em química, economia, paz e física, ao lado de autores celebrados como Stephen Fry e Yuval Noah Harari. A ex-presidente irlandesa Mary Robinson e o ex-presidente colombiano Juan Manuel Santos, que também é laureado do Prêmio Nobel da Paz, emprestaram seus nomes também.
Geoffrey Hinton e Yoshua Bengio, popularmente conhecidos como “pais fundadores da IA” e vencedores do Prêmio Turing, amplamente considerado o Prêmio Nobel da ciência da computação, também adicionaram suas assinaturas à declaração.
“Este é um ponto de virada”, disse Harari. “Os humanos devem concordar com linhas vermelhas claras para a IA antes que a tecnologia reestruture a sociedade além de nossa compreensão e destrua as fundações de nossa humanidade.”
Os esforços passados para alertar sobre a IA frequentemente se concentraram em compromissos voluntários de empresas e governos. Em março de 2023, mais de 1.000 líderes de tecnologia, incluindo Elon Musk, pediram uma pausa no desenvolvimento de sistemas poderosos de IA. Poucos meses depois, executivos de IA, como Sam Altman da OpenAI e Demis Hassabis da Google DeepMind, assinaram uma breve declaração equiparando os riscos existenciais da IA aos da guerra nuclear e pandemias.
IA alimenta medos de riscos existenciais e sociais
Apenas na semana passada, a IA foi implicada em casos que variam do suicídio de um adolescente a relatos de seu uso na manipulação do debate público.
Os signatários da chamada argumentam que esses riscos imediatos podem logo ser ofuscados por ameaças maiores. Comentadores alertaram que sistemas avançados de IA podem levar ao desemprego em massa, pandemias criadas em laboratório ou violações sistemáticas dos direitos humanos se não forem controlados.
Alguns dos itens na lista de embargo incluem proibir armas autônomas letais, proibir sistemas de IA auto-replicantes e garantir que a IA nunca seja implantada em guerra nuclear.
“É de nosso interesse comum vital prevenir que a IA cause danos sérios e potencialmente irreversíveis à humanidade, e devemos agir de acordo.” disse Ahmet Üzümcü, o ex-diretor-geral da Organização para a Proibição de Armas Químicas, que ganhou o Prêmio Nobel da Paz de 2013 sob sua liderança.
Mais de 60 organizações da sociedade civil assinaram a carta, incluindo o think tank baseado no Reino Unido Demos e o Instituto de Segurança e Governança de IA de Pequim. O esforço está sendo coordenado por três ONGs: o Centro para IA Compatível com Humanos da Universidade da Califórnia, Berkeley; The Future Society; e o Centro Francês para Segurança de IA.
Apesar das recentes promessas de segurança de empresas como a OpenAI e a Anthropic, que concordaram com testes governamentais de modelos antes do lançamento, as pesquisas sugerem que as empresas estão cumprindo apenas cerca de metade de seus compromissos.
“Não podemos nos dar ao luxo de esperar”, disse Ressa. “Devemos agir antes que a IA avance além de nossa capacidade de controlá-la.”
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.
