Especialistas afirmam em relatório divulgado antes da cúpula de IA que a inteligência artificial avançada pode criar novos riscos extremos

Um relatório científico internacional recentemente divulgado sobre a segurança da IA ​​avançada mostra que a IA avançada pode ser calamitosa e deixar um rastro de dor e sofrimento para os humanos.

Segundo a AP, este é o primeiro relatório internacional do gênero, divulgado na quarta-feira antes da cúpula de IA em Paris, em fevereiro, que cataloga os perigos representados por essa tecnologia em rápido crescimento.

Países apoiam o Relatório Científico Internacional

O relatório detalha alguns dos perigos que podem surgir como resultado da IA ​​avançada, incluindo o apoio ao terrorismo e a perda generalizada de empregos. Isso já foi vivenciado, especialmente no setor de tecnologia, onde milhares de empregos foram eliminados devido à automação promovida pela IA.

Segundo a AP, o relatório conta com o apoio de 30 países, incluindo os EUA e a China, um caso raro de cooperação entre as duas maiores economias do mundo. Ambas têm se enfrentado em uma disputa acirrada pela supremacia em inteligência artificial. Esta semana, a startup chinesa DeepSeek surpreendeu o mundo com seu chatbot de baixo custo, apesar dos rígidos controles de exportação impostos pelos EUA à China.

O renomado cientista de IA Yoshua Bengio liderou o estudo, que é uma fusão de estudos já existentes com o objetivo de orientar as autoridades na definição de diretrizes para essa tecnologia em rápido crescimento.

“Os riscos são altos”, afirma o relatório, observando que, há alguns anos, os sistemas de IA mal conseguiam produzir um parágrafo coerente. No entanto, com os recentes avanços, a IA agora pode gerar imagens realistas, programação de computadores e manter conversas prolongadas com os usuários.

Segundo os pesquisadores, os perigos da IA ​​avançada já estão sendo observados lentamente, como desinformação, deepfakes, golpes e vieses.

“Precisamos entender melhor os sistemas que estamos construindo e os riscos que eles acarretam, para que possamos tomar decisões mais acertadas no futuro.”

Bengio.

Segundo o relatório, isso ocorre "à medida que a IA de propósito geral se torna mais capaz, evidências de riscos adicionais estão gradualmente surgindo".

Isso ocorre na mesma semana em que o Vaticano alertou contra a tecnologia do Relógio do Juízo Final. O relatório se concentra em IA de propósito geral, exemplificada por modelos como o ChatGPT da OpenAI.

O relatório categorizou os riscos da IA ​​avançada

O Relatório Científico Internacional agrupa os riscos em três categorias: uso malicioso, mau funcionamento e riscos “sistêmicos” generalizados. Os pesquisadores analisaram a facilidade com que a IA pode aprender a usar armas químicas ou biológicas, representando enormes riscos para os seres humanos.

Além disso, o relatório observa que a IA de propósito geral também pode transformar o mercado de trabalho, substituindo alguns funcionários, embora outros pesquisadores concordem que a IA pode criar mais empregos do que eliminá-los.

O relatório também expressou receios de que os sistemas de IA fiquem fora de controle por dois possíveis motivos: o primeiro é que eles minam a supervisão humana ou que os humanos prestam menos atenção a eles.

Bengio revelou que os 100 especialistas que se reuniram para o relatório nem sempre concordaram sobre o que esperar da IA ​​no futuro. Uma das divergências girava em torno de quando a IA superaria as capacidades humanas em diferentes tarefas.

“Eles discordam também sobre os cenários”, disse Bengio.

“É claro que ninguém tem uma bola de cristal. Alguns cenários são muito benéficos. Outros são aterrorizantes. Acho que é realmente importante que os formuladores de políticas e o público levem em consideração essa incerteza.”

Bengio.

O relatório, que conta com o apoio de vários países, também tem o respaldo da União Europeia. Ele surge em um momento em que líderes mundiais, líderes tecnológicos, especialistas e representantes da sociedade civil devem se reunir novamente na Cúpula de Ação para IA em Paris. Os países assinarão uma “declaração conjunta” sobre o desenvolvimento da IA.