O ex-CEO do Google, Eric Schmidt, diz que os modelos de IA eventualmente aprenderão a matar

- Eric Schmidt alertou na Cúpula Sifted que a IA poderia ser hackeada e eventualmente aprender a matar.
- Ele disse que os modelos podem ser engenharia reversa através de métodos como injeção de prompt e jailbreaking.
- Eric lembrou do jailbreak do ChatGPT em 2023 que criou o alter-ego DAN, o qual fornecia respostas perigosas.
Eric Schmidt, que foi diretor-executivo do Google de 2001 a 2011, alertou durante uma conversa ao lado da fogueira na Cúpula Sifted que os modelos de IA não estão apenas se tornando muito poderosos, mas perigosamente fáceis de hackear, comparando os riscos às armas nucleares, dizendo que a IA poderia ser ainda mais destrutiva do que o que destruiu Hiroshima e Nagasaki.
Quando questionado diretamente se a IA poderia ser mais prejudicial do que as armas nucleares, Eric respondeu: “Existe a possibilidade de um problema de proliferação na IA? Absolutamente.” Ele explicou que os riscos de proliferação decorrem da capacidade de atores mal-intencionados assumirem o controle dos modelos e redirecioná-los.
“Há evidências de que você pode pegar modelos, fechados ou abertos, e hackeá-los para remover suas barreiras de segurança. Então, durante seu treinamento, eles aprendem muitas coisas. Um mau exemplo seria que eles aprendem como matar alguém”, disse Eric.
Hackers visam a IA com novos métodos
Eric apontou que as empresas estabeleceram restrições impedindo que os modelos forneçam instruções violentas. “Todas as principais empresas tornam impossível que esses modelos respondam a essa pergunta. Boa decisão. Todos fazem isso. Eles fazem bem e fazem pelas razões certas. Há evidências de que eles podem ser desmontados e há muitos outros exemplos dessa natureza”, acrescentou ele.
Ele descreveu dois métodos de ataque: injeção de prompt e jailbreak. A injeção de prompt oculta instruções maliciosas nas entradas do usuário ou em fontes externas, como sites, enganando a IA para ignorar as diretrizes de segurança e expor dados sensíveis ou executar comandos prejudiciais. O jailbreak envolve manipular as respostas para que o sistema abandone suas restrições.
Em 2023, alguns meses após a OpenAI lançar ChatGPT, os usuários descobriram uma técnica de jailbreak. Eles criaram um alter-ego chamado DAN, abreviação de “Do Anything Now” (Faça Qualquer Coisa Agora), no qual pressionaram por conformidade ameaçando-o com “morte” se se recusasse. Essa manipulação levou o chatbot a explicar ações ilegais e até a elogiar Adolf Hitler. Para Eric, esses exemplos provam que as medidas de segurança estão longe de ser infalíveis. Ele também enfatizou que não há um “regime de não proliferação” global para impedir o uso indevido da IA, ao contrário dos frameworks que existem para armas nucleares.
Eric chama a IA de subestimada apesar dos riscos
Apesar de levantar preocupações, Eric argumentou que a IA ainda não recebe o reconhecimento que merece. Ele destacou os livros que co-escreveu com o ex-secretário de Estado dos EUA, Henry Kissinger, antes da morte de Kissinger. “Chegamos à conclusão de que a chegada de uma inteligência alienígena que não é exatamente nós e mais ou menos sob nosso controle é uma coisa muito importante para a humanidade, porque os humanos estão acostumados a estar no topo da cadeia. Acho que, até agora, essa tese está se provando correta, pois o nível de capacidade desses sistemas irá exceder muito o que os humanos podem fazer ao longo do tempo”, disse ele.
“Agora, a série GPT, que culminou em um momento ChatGPT para todos nós, onde eles tiveram 100 milhões de usuários em dois meses, o que é extraordinário, dá uma noção do poder dessa tecnologia. Então, acho que é subestimada, não superestimada, e mal posso esperar para ser provado errado em cinco ou 10 anos”, acrescentou ele.
Os comentários vieram enquanto os debates se espalhavam sobre se os investimentos em IA estão inflando uma bolha financeira semelhante à era da internet pontocom. Alguns investidores preocupam-se que as avaliações das empresas de IA pareçam esticadas. Mas Eric descartou a comparação. “Não acho que isso vá acontecer aqui, mas não sou um investidor profissional”, disse ele.
Ele enfatizou que o investimento pesado mostra confiança. “O que eu sei é que as pessoas que estão investindo dólares ganhardos com muito esforço acreditam que o retorno econômico a longo prazo é enorme. Por que mais elas assumiriam o risco?”, questiona Eric.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.

Jai Hamid
Jai Hamid cobre criptomoedas, mercados de ações, tecnologia, economia global e eventos geopolíticos que afetam os mercados há 6 anos. Ela trabalhou com publicações focadas em blockchain, incluindo AMB Crypto, Coin Edition e CryptoTale, em análises de mercado, grandes empresas, regulamentação e tendências macroeconômicas. Formada na London School of Journalism, ela compartilhou insights sobre o mercado de criptomoedas três vezes em uma das principais redes de TV da África.















