Pesquisadores de IA sugerem que há 5% de chance de extinção da humanidade devido à IA avançada

Em uma pesquisa recente realizada com 2.700 pesquisadores de inteligência artificial (IA) que publicaram trabalhos em seis das principais conferências de IA, foi revelado que quase 58% dosdentacreditam que existe uma probabilidade de 5% de a IA causar a extinção da humanidade ou outros resultados catastróficos.

A pesquisa também explorou os cronogramas dos marcos tecnológicos da IA ​​e suas potenciais consequências sociais. Apesar da incerteza e da discordância entre os pesquisadores, essas descobertas lançam luz sobre as preocupações da comunidade de IA em relação aos riscos potenciais associados ao desenvolvimento de IA com capacidades sobre-humanas.

Pesquisadores expressam cautela em relação ao risco de extinção da IA

Katja Grace, autora da pesquisa e pesquisadora do Instituto de Pesquisa de Inteligência de Máquina na Califórnia, enfatizou a importância da crença em um risco não insignificante representado pela IA avançada. Grace afirmou: "É um sinal importante que a maioria dos pesquisadores de IA não consideretronimplausível que a IA avançada destrua a humanidade". No entanto, não há motivo imediato para alarme, de acordo com Émile Torres, pesquisador da Case Western Reserve University, em Ohio.

Torres alertou para o risco de reações exageradas a pesquisas com especialistas, observando que elas não possuem um tractãotronem prever com precisão o desenvolvimento da IA. Um estudo anterior, de 2012, constatou que as previsões de especialistas em IA não eram mais confiáveis ​​do que a opinião pública. Os autores da pesquisa atual também apontaram que os pesquisadores de IA podem não ter a expertise necessária para prever a trajetória futura da IA.

Marcos acelerados e previsões antecipadas

Em comparação com a versão de 2022 da mesma pesquisa, muitos pesquisadores de IA na pesquisa mais recente previram que a IA atingiria certos marcos mais cedo do que o projetado anteriormente. Essas previsões coincidiram com o lançamento, em novembro de 2022, de serviços avançados de chatbots com IA, como o ChatGPT, e com a rápida implementação de modelos de IA semelhantes no Vale do Silício.

Os pesquisadores previram uma probabilidade de 50% ou mais de que os sistemas de IA conseguissem realizar diversas tarefas com sucesso na próxima década. Essas tarefas incluíam a criação de músicas indistinguíveis das de artistas populares como Taylor Swift e a programação completa de sites de processamento de pagamentos do zero. No entanto, outras tarefas complexas, como a instalação física de fiação elétrica em residências ou a resolução de mistériosmaticde longa data, deveriam levar mais tempo.

A perspectiva de a IA superar o desempenho humano em todas as tarefas recebeu uma probabilidade de 50% de ocorrer até 2047, enquanto a possibilidade de todos os empregos humanos se tornarem totalmente automatizáveis ​​recebeu uma probabilidade de 50% até 2116. Essas estimativas representaram uma aceleração de 13 e 48 anos, respectivamente, em comparação com a pesquisa do ano anterior.

Avanços imprevisíveis em IA e preocupações imediatas

Apesar das elevadas expectativas em torno do desenvolvimento da IA, Émile Torres expressou cautela quanto à imprevisibilidade dos avanços tecnológicos. Torres observou que o campo da IA ​​já havia passado por períodos de redução de financiamento e interesse corporativo, conhecidos como "invernos da IA", durante as décadas de 1970 e 1980.

Além disso, pesquisadores de IA destacaram preocupações imediatas, como o uso indevido da IA, incluindo deepfakes, manipulação da opinião pública, desenvolvimento de armas sintéticas, controle autoritário sobre populações e agravamento da desigualdade econômica. Torres também enfatizou os perigos potenciais da IA ​​contribuir para a desinformação sobre questões críticas como mudanças climáticas e governança democrática.

A pesquisa com pesquisadores de IA revela um nível significativo de preocupação na comunidade de IA em relação aos riscos potenciais associados ao desenvolvimento de IA avançada. Embora a porcentagem exata de risco de a IA causar a extinção da humanidade permaneça incerta, a crença em um risco não desprezível destaca a necessidade de considerações éticas e de segurança contínuas no desenvolvimento de IA.

Apesar das previsões otimistas para os marcos da IA, os pesquisadores reconhecem a imprevisibilidade dos avanços tecnológicos e enfatizam preocupações imediatas, como o uso indevido da IA ​​e seus impactos na sociedade. À medida que a IA continua a evoluir, pesquisadores, formuladores de políticas e a sociedade como um todo devem abordar esses desafios de forma proativa e responsável.