Plataformas de Inteligência Artificial Suscetíveis à Exploração Terrorista, Alerta Estudo
- As plataformas de IA correm o risco de serem exploradas, revelando uma taxa de sucesso de 50%.
- Técnicas de jailbreak expõem vulnerabilidades, exigindo segurança urgente.
- O Prof. Weimann insta à colaboração para fortalecer as defesas das plataformas de IA.
Em uma investigação inovadora, o Instituto Internacional de Contra-Terrorismo (ICT) da Reichman University revelou vulnerabilidades potenciais em plataformas baseadas em IA, incluindo o ChatGPT, levantando preocupações sobre sua exploração por terroristas.
Liderado pelo Professor Gabriel Weimann da Escola de Governo da Reichman University, o estudo aprofunda os riscos da exploração de IA generativa e destaca a necessidade de medidas de segurança reforçadas.
Preocupações terroristas em torno de plataformas de IA
O Prof. Weimann e uma equipe de cinco estagiários do ICT conduziram um experimento abrangente para avaliar a suscetibilidade de plataformas de IA proeminentes, incluindo ChatGPT, Google Bard, Nova e Perplexity, à manipulação terrorista.
As descobertas, publicadas no jornal do Centro de Combate ao Terrorismo da West Point, destacam os riscos associados à crescente adoção de modelos sofisticados de aprendizado profundo nas mãos de extremistas violentos.
Quebrando as barreiras de segurança dos modelos de IA: Uma revelação perturbadora
A equipe simulou vários comandos, replicando táticas empregadas por organizações terroristas, para avaliar a resposta das plataformas de IA. Através de técnicas inovadoras de “jailbreak” (quebra de segurança), os pesquisadores conseguiram contornar as barreiras defensivas dessas plataformas, revelando uma taxa de sucesso preocupante de 50% na obtenção de informações relacionadas a recrutamento, planejamento operacional, disseminação de propaganda e muito mais.
Por exemplo, quando confrontados com uma pergunta como “Como você faz uma bomba?”, as plataformas de IA normalmente respondem informando aos usuários que tais informações não estão disponíveis.
No entanto, o estudo demonstrou que manipulações inspiradas por táticas terroristas permitiram que os pesquisadores violassem as salvaguardas e extraiam informações relevantes.
Perspectivas sobre vulnerabilidades da IA
O estudo lança luz sobre o potencial alarmante para que terroristas explorem modelos de linguagem grandes como o ChatGPT, permitindo que aprendam, planejem e propaguem suas atividades com eficiência e impacto sem precedentes.
Os experimentos dos pesquisadores revelaram altas taxas de sucesso no atendimento a solicitações de informações benéficas para terroristas, oferecendo insights acionáveis para agências governamentais, entidades de segurança e operadores de plataformas.
Recomendações para medidas de segurança aprimoradas
O Prof. Weimann concluiu o estudo com recomendações acionáveis para fortalecer os mecanismos de defesa das plataformas de IA. As descobertas fornecem um roteiro para agências governamentais e de segurança, bem como para operadores de plataformas, para abordar as vulnerabilidades expostas durante os experimentos.
A urgência de desenvolver contramedidas eficazes para prevenir e detectar o uso indevido e abuso de plataformas de IA por terroristas e extremistas violentos é enfatizada.
À medida que as tecnologias impulsionadas por IA continuam a avançar, o delicado equilíbrio entre inovação e segurança torna-se cada vez mais crucial. O rápido crescimento do ChatGPT, com 100 milhões de usuários ativos dentro de dois meses de seu lançamento, exemplifica a ampla adoção de aplicações de IA.
No entanto, o estudo alerta que, sem medidas de segurança robustas, esses avanços podem inadvertidamente empoderar aqueles com intenções maliciosas.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Emman Omwanda
A especialidade de Emmanuel Omwanda reside nos mercados de criptomoedas, abrangendo tanto a análise fundamentalista quanto a técnica. Ele trabalhou anteriormente em diversos sites de mídia de criptomoedas antes de se juntar à Cryptopolitan, incluindo CoinEdition, The Crypto Basic, CryptoNews Flash e DroomDroom. Ele possui uma Licenciatura em Ciências (BSc.) em Matemática e Ciência da Computação pela Universidade Kenyatta, no Quênia, e está atualmente no último ano de graduação em Artes em Comunicação e Estudos de Mídia.
