Pesquisadores de IA Sugerem 5% de Chance de Extinção Humana Devido à IA Avançada
- Pesquisadores em IA reconhecem um risco de 5% de extinção humana devido à IA avançada, enfatizando a necessidade de desenvolvimento ético da IA.
- Pesquisa mostra que especialistas em IA preveem marcos acelerados, mas o futuro do campo permanece imprevisível.
- Preocupações imediatas incluem o uso indevido da IA, deepfakes e seu impacto na democracia, destacando a urgência do desenvolvimento responsável da IA.
Em uma pesquisa recente realizada com 2.700 pesquisadores de inteligência artificial (IA) que publicaram trabalho em seis principais conferências de IA, revelou-se que quase 58% dos entrevistados acreditam haver uma chance de 5% de a IA causar a extinção humana ou outros resultados catastróficos.
A pesquisa também explorou os cronogramas para marcos tecnológicos de IA e suas possíveis consequências sociais. Apesar da incerteza e desacordo entre os pesquisadores, esses resultados lançam luz sobre as preocupações dentro da comunidade de IA sobre os riscos potenciais associados ao desenvolvimento de IA super-humana.
Pesquisadores expressam cautela sobre o risco de extinção por IA
Katja Grace, autora da pesquisa e pesquisadora no Instituto de Pesquisa de Inteligência Artificial na Califórnia, enfatizou a importância da crença em um risco não mínimo representado pela IA avançada. Grace afirmou: “É um sinal importante de que a maioria dos pesquisadores de IA não acha fortemente improvável que a IA avançada destrua a humanidade.” No entanto, não há motivo imediato para alarme, de acordo com Émile Torres, um acadêmico da Universidade Case Western Reserve em Ohio.
Torres alertou contra reações exageradas a pesquisas de especialistas, observando que eles não têm um histórico forte em prever desenvolvimentos de IA com precisão. Um estudo anterior em 2012 descobriu que as previsões de especialistas em IA não eram mais confiáveis do que a opinião pública. Os autores da pesquisa atual também apontaram que os pesquisadores de IA podem não possuir expertise em prever a trajetória futura da IA.
Marcos acelerados e previsões mais cedo
Em comparação com uma versão de 2022 da mesma pesquisa, muitos pesquisadores de IA na pesquisa mais recente anteciparam que a IA alcançaria certos marcos mais cedo do que anteriormente projetado. Essas previsões coincidiram com o lançamento em novembro de 2022 de serviços de chatbot de IA avançada como o ChatGPT e a rápida implantação de modelos de IA semelhantes no Vale do Silício.
Os pesquisadores previram uma probabilidade de 50% ou maior de que os sistemas de IA conseguissem realizar com sucesso várias tarefas na próxima década. Essas tarefas incluíam criar músicas indistinguíveis das de artistas populares como Taylor Swift e codificar sites inteiros de processamento de pagamento do zero. No entanto, outras tarefas complexas, como instalar fisicamente fiação elétrica em casas ou resolver mistérios matemáticos de longa data, deveriam levar mais tempo.
A possibilidade de a IA superar o desempenho humano em todas as tarefas foi estimada com 50% de chance de ocorrer até 2047, enquanto a possibilidade de todos os empregos humanos se tornarem totalmente automatizáveis recebeu uma probabilidade de 50% até 2116. Essas estimativas representam uma aceleração de 13 anos e 48 anos, respectivamente, em comparação com a pesquisa do ano anterior.
Avanços imprevisíveis da IA e preocupações imediatas
Apesar das expectativas elevadas em torno do desenvolvimento da IA, Émile Torres expressou cautela quanto à imprevisibilidade dos avanços tecnológicos. Torres observou que o campo da IA já havia experimentado períodos de redução de financiamento e interesse corporativo, conhecidos como “invernos da IA”, durante as décadas de 1970 e 1980.
Além disso, pesquisadores de IA destacaram preocupações imediatas, como o uso indevido da IA, incluindo deepfakes, manipulação da opinião pública, desenvolvimento de armas projetadas, controle autoritário sobre populações e o agravamento da desigualdade econômica. Torres também enfatizou os potenciais perigos da IA contribuir para a desinformação em questões críticas, como mudanças climáticas e governança democrática.
A pesquisa com pesquisadores de IA revela um nível significativo de preocupação dentro da comunidade de IA sobre os riscos potenciais associados ao desenvolvimento avançado de IA. Embora a porcentagem exata do risco de a IA causar a extinção humana permaneça incerta, a crença em um risco não insigniante destaca a necessidade de considerações éticas e de segurança contínuas no desenvolvimento da IA.
Apesar das previsões aceleradas para marcos da IA, os pesquisadores reconhecem a imprevisibilidade dos avanços tecnológicos e enfatizam preocupações imediatas, como o uso indevido da IA e os impactos sociais. À medida que a IA continua a evoluir, pesquisadores, formuladores de políticas e a sociedade como um todo devem abordar esses desafios de forma proativa e responsável.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Editah Patrick
Editah é uma analista de fintech versátil com profundo conhecimento em domínios de blockchain. Assim como a tecnologia a fascina, ela considera o cruzamento entre tecnologia e finanças algo deslumbrante. Seu interesse particular em carteiras digitais e blockchain auxilia seu público.
