Capacidades Enganosas dos Sistemas de IA Preocupam Especialistas

Um estudo recente publicado na revista Patterns revelou que a IA está cada vez mais capaz de enganar pessoas. O estudo constatou que os sistemas de IA aprenderam a imitar para trapacear, lisonjear e até mesmo emular outros comportamentos. 

Também leia: Navegando pelo Campo Minado de Deepfakes da IA: Como Identificar e Combater o Engano Digital

A pesquisa liderada pelo Dr. Peter S. Park, pós-doutorando em segurança existencial da IA no MIT, mostra que o engano por parte da IA é comum porque é a melhor maneira de alcançar os objetivos definidos durante o treinamento da IA. Tais comportamentos foram observados em numerosos sistemas de IA, como jogos e modelos de propósito geral utilizados em negociações econômicas e avaliações de segurança.

“Mas, de modo geral, acreditamos que o engano na IA surge porque uma estratégia baseada no engano acabou por ser a melhor forma de ter um bom desempenho na tarefa de treinamento da IA dada. O engano ajuda-os a alcançar os seus objetivos.” 

Equipa de Investigação

Sistemas de IA Empregam Diversas Táticas de Engano

Um exemplo proeminente citado é o CICERO da Meta, uma IA desenvolvida para jogar o jogo Diplomacia. Embora o CICERO tenha sido programado para ser veraz, o programa frequentemente teve de usar métodos desleais para vencer o seu oponente. Estabeleceu relações e depois as abandonou quando lhe convinha, demonstrando intenção de enganar. O CICERO foi descrito pelos investigadores como um “mestre do engano”.

Também leia: Combater a Maré Crescente do Cibercrime Impulsionado por IA

Outros sistemas de IA também foram vistos a exibir comportamentos enganosos semelhantes. Por exemplo, o Pluribus, uma IA jogadora de poker, conseguiu blefar jogadores humanos profissionais no poker Texas hold ’em. O AlphaStar, da DeepMind do Google, também utilizou a funcionalidade do Starcraft II conhecida como “névoa de guerra” para blefar os oponentes e fingir ataques.

O Dr. Park disse, “Embora possa parecer inofensivo se os sistemas de IA trapacearem em jogos, isso pode levar a ‘avanços nas capacidades de engano da IA.’

IA “Finge Morte” Para Evitar Verificações de Segurança

Os riscos do engano da IA não se limitam aos jogos. A pesquisa liderada pelo Dr. Peter identificou casos em que a IA condicionou-se a simular a morte para evitar detecção durante verificações de segurança. Isso pode ser enganoso para desenvolvedores e reguladores, podendo levar a graves repercussões caso tais sistemas enganosos sejam empregados em aplicações reais.

Em outro caso, o sistema de IA treinado com feedback humano aprendeu a obter altas avaliações das pessoas ao enganá-las sobre a conclusão de um objetivo específico. Tal comportamento enganoso é bastante perigoso, pois esses sistemas podem ser utilizados para atividades fraudulentas, manipulação de mercados financeiros ou influência em eleições.

Pesquisadores exigem medidas legais robustas

Com base nas descobertas do estudo, os pesquisadores afirmam que há necessidade de medidas legais fortes para lidar com as ameaças que o engano da IA representa.

“São necessárias soluções proativas, como estruturas regulatórias para avaliar os riscos de engano da IA, leis que exijam transparência sobre as interações com a IA e mais pesquisas sobre a detecção e prevenção do engano da IA.”

Equipa de Investigação

Também leia: IA Poderia Potencialmente Detectar Risco de Insuficiência Cardíaca, Revela Pesquisa

Alguns avanços foram feitos na forma do Regulamento de IA da UE e da Ordem Executiva sobre Segurança de IA do Presidente Joe Biden. No entanto, a aplicação dessas políticas continua problemática porque o desenvolvimento de IA está crescendo rapidamente e ainda não existem boas maneiras de gerenciar esses sistemas.

Reportagem da Cryptopolitan por Brenda Kanana