A IA avançada pode criar novos riscos extremos, dizem especialistas em relatório antes da cimeira de IA

Um Relatório Científico Internacional recentemente lançado sobre a Segurança da IA Avançada mostra que a IA avançada pode ser calamitosa e deixar um rastro de dor e sofrimento para os humanos.

De acordo com a AP, este é o primeiro relatório internacional desse tipo, lançado na quarta-feira, véspera da cimeira de IA em Paris em fevereiro, catalogando os perigos impostos pela tecnologia de rápido crescimento.

Países apoiam o Relatório Científico Internacional

O relatório detalha alguns dos perigos que podem surgir como resultado da IA avançada, incluindo a facilitação do terrorismo e perdas generalizadas de empregos. Isso já foi experimentado, especialmente no setor de tecnologia, onde milhares de empregos foram cortados à medida que as empresas automatizam, graças à IA.

De acordo com AP, o relatório tem o apoio de 30 países, incluindo os EUA e a China, um caso raro em que as duas maiores economias do mundo estão em cooperação. Os dois têm estado em confronto enquanto lutam pela supremacia na IA. Esta semana, a startup chinesa DeepSeek surpreendeu o mundo com seu chatbot de baixo custo, embora os EUA tenham imposto controles rigorosos de exportação para a China.

O proeminente cientista de IA Yoshua Bengio liderou o estudo, que é uma fusão de estudos já existentes destinados a orientar as autoridades na elaboração de diretrizes para a tecnologia de rápido crescimento.

“As apostas são altas”, diz o relatório, observando que há alguns anos os sistemas de IA mal conseguiam produzir um parágrafo coerente. No entanto, com os desenvolvimentos recentes, a IA agora pode gerar imagens realistas, programação de computadores e manter conversas prolongadas com os usuários.

De acordo com os pesquisadores, os perigos da IA avançada já estão sendo lentamente testemunhados, como desinformação e fake news, deepfakes, golpes e vieses.

“Precisamos entender melhor os sistemas que estamos construindo e os riscos que vêm com eles para que possamos tomar decisões melhores no futuro.”

Bengio.

Isso ocorre “à medida que a IA de propósito geral se torna mais capaz, evidências de riscos adicionais estão gradualmente surgindo”, de acordo com o relatório.

Isso também ocorre na mesma semana em que o Vaticano alertou contra a tecnologia, junto com o grupo por trás do Relógio do Juízo Final. O relatório foca na IA de propósito geral, que é tipificada por modelos como o ChatGPT da OpenAI.

O relatório categorizou os riscos da IA avançada

O Relatório Científico Internacional agrupa os riscos em três: uso malicioso, falhas e riscos “sistêmicos” generalizados. Os pesquisadores analisaram o quão fácil é para a IA aprender a usar armas químicas ou biológicas, representando enormes riscos para os humanos.

Além disso, o relatório observa que a IA de propósito geral também pode transformar o mercado de trabalho, deslocando alguns funcionários, embora outros pesquisadores concordem que a IA poderia criar mais empregos do que eliminar.

O relatório também expressou temores sobre sistemas de IA fugindo do controle por duas possíveis razões: a primeira sendo que eles minam a supervisão humana ou que os humanos prestam menos atenção.

Bengio revelou que os 100 especialistas que se reuniram para o relatório nem sempre concordaram sobre o que esperar da IA no futuro. Uma das discordâncias foi sobre quando a IA superaria as capacidades humanas em diferentes tarefas.

“Eles também discordam sobre os cenários”, disse Bengio.

“Claro, ninguém tem uma bola de cristal. Alguns cenários são muito benéficos. Outros são aterrorizantes. Acho que é realmente importante para os formuladores de políticas e o público avaliarem essa incerteza.”

Bengio.

O relatório, apoiado por vários países, também tem o apoio da União Europeia. Isso ocorre enquanto líderes mundiais, líderes da tecnologia e especialistas, bem como a sociedade civil, devem se reunir novamente na Cimeira de Ação de IA de Paris. Os países assinarão uma “declaração comum” sobre o desenvolvimento da IA.