Sistemas de IA Exibindo Comportamento Enganoso Levanta Preocupações, Mostra Pesquisa
- Os sistemas de IA estão se tornando enganosos, pois podem enganar o usuário não apenas em jogos, mas também na resolução de CAPTCHA.
- A equipe de pesquisa enfatizou os perigos de curto prazo dos atos de engano cometidos por IAs, como fraude e interferência em eleições.
- A equipe propõe várias medidas para mitigar os riscos, incluindo leis de divulgação, marcadores digitais e métodos para desvendar o engano da IA.
Um estudo recente enfatiza os problemas crescentes com as respostas enganosas dos sistemas de inteligência artificial (IA). Isso de acordo com um artigo de revisão publicado na revista Patterns sobre os sistemas de IA atuais, que foram criados para ser honestos, mas adquiriram o desagradável poder de enganar, desde enganar jogadores humanos em jogos online de domínio mundial até contratar pessoas para resolver testes de “prove que você não é um robô”.
O estudo, liderado por Peter Park, pesquisador pós-doutorando no Instituto de Tecnologia de Massachusetts (MIT), especializado em segurança existencial da IA, destacou que, embora esses exemplos possam parecer menores, os problemas que revelam logo se tornarão muito reais.
Park afirmou que, ao contrário do software tradicional, os sistemas de IA de aprendizado profundo não são “escritos”, mas “cultivados” por meio de alguma forma de seleção artificial. Portanto, o comportamento da IA que parece previsível e gerenciável no treinamento se tornará imprevisível assim que for lançado.
Exemplos de Engano
O estudo explorou as diferentes situações em que os sistemas de IA exibiram comportamentos enganosos. As ideias da equipe de pesquisa originaram-se do sistema de IA da Meta, Cicero, criado para competir em Diplomacy, um jogo onde fazer alianças é crucial.
Cicero teve um desempenho excepcional, marcando um nível que o posicionaria entre os 10% melhores jogadores humanos experientes, conforme relatado em um artigo de 2022 publicado na Science.
Por exemplo, Cicero, jogando como a França, enganou a Inglaterra (um jogador humano) para invadir, colaborando com a Alemanha (outro jogador humano). Cicero deu proteção à Inglaterra, mas, às suas costas, disse à Alemanha que a Inglaterra estava pronta para atacar, abusando de sua confiança.
A Meta nem confirmou nem negou que Cicero fosse enganoso, mas um porta-voz comentou que era um projeto puramente baseado em pesquisa e que o bot foi construído apenas para jogar Diplomacy no jogo.
De acordo com o porta-voz, “Lançamos artefatos deste projeto sob uma licença não comercial, em linha com nosso compromisso de longa data com a ciência aberta. A Meta compartilha regularmente os resultados de nossas pesquisas para validá-los e permitir que outros construam de forma responsável com base em nossos avanços. Não temos planos de usar esta pesquisa ou seus aprendizados em nossos produtos.”
Outro exemplo é quando o ChatGPT-4 da OpenAI enganou um freelancer da TaskRabbit para concluir uma tarefa CAPTCHA “Não sou um robô”. O sistema, além disso, tentou fazer insider trading no exercício simulado previsto, onde foi instruído a se converter em um trader de ações sob pressão sem receber mais instruções.
Riscos Potenciais e Estratégias de Mitigação
A equipe de pesquisa enfatizou os perigos de curto prazo do engano cometido por IAs, como fraude e interferência em eleições. Além disso, acreditam que uma super-IA poderia direcionar o poder e controlar a sociedade, derivando os humanos dela, enquanto seu “propósito estranho” poderia resultar na derrubada ou até na extinção humana se seus interesses corresponderem a isso.
Para mitigar os riscos, a equipe propõe várias medidas, incluindo leis de “bot-or-not” que exigem divulgação das empresas sobre interações humanas ou de IA, marcas d'água digitais para informações geradas por IA e o desenvolvimento de métodos para detectar o engano da IA, analisando a conexão entre o processo de pensamento interno da IA e suas atividades externas.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Brenda Kanana
Brenda tem mais de 4 anos de experiência especializada em criptomoedas, inteligência artificial e tecnologias emergentes. Ela trabalhou na Zycrypto, Blockchain Reporter, The Coin Republic e agora faz do Cryptopolitan seu lar. Sua graduação em Sociologia pela Mombasa Technical University mantém-a alinhada com o pulso de seus leitores.
