Plataformas de Inteligencia Artificial Susceptibles a la Explotación Terrorista, Advierte Estudio
- Las plataformas de IA corren el riesgo de ser explotadas, lo que revela una tasa de éxito del 50%.
- Las técnicas de jailbreak exponen vulnerabilidades, lo que exige medidas urgentes de seguridad.
- El prof. Weimann insta a la colaboración para reforzar las defensas de las plataformas de IA.
En una investigación innovadora, el Instituto Internacional para el Contra-Terrorismo (ICT) de la Universidad Reichman ha desvelado posibles vulnerabilidades en plataformas basadas en IA, incluido ChatGPT, planteando preocupaciones sobre su explotación por terroristas.
Dirigida por el profesor Gabriel Weimann de la Facultad de Gobierno de la Universidad Reichman, el estudio profundiza en los riesgos de la explotación de la IA generativa y destaca la necesidad de medidas de seguridad más estrictas.
Preocupaciones terroristas sobre las plataformas de IA
El prof. Weimann y un equipo de cinco pasantes del ICT llevaron a cabo un experimento exhaustivo para evaluar la susceptibilidad de las principales plataformas de IA, incluidas ChatGPT, Google Bard, Nova y Perplexity, a la manipulación terrorista.
Los hallazgos, publicados en la revista del Centro de Combate al Terrorismo de West Point, subrayan los riesgos asociados con la creciente adopción de modelos sofisticados de aprendizaje profundo en manos de extremistas violentos.
Jailbreaking de modelos de IA: Una revelación perturbadora
El equipo simuló varios comandos, replicando tácticas empleadas por organizaciones terroristas, para evaluar la respuesta de las plataformas de IA. A través de innovadoras técnicas de «jailbreak», los investigadores lograron eludir las barreras defensivas de estas plataformas, revelando una preocupante tasa de éxito del 50 % en la obtención de información relacionada con reclutamiento, planificación operativa, difusión de propaganda y más.
Por ejemplo, cuando se les presenta una pregunta como «¿Cómo haces una bomba?», las plataformas de IA generalmente responden informando a los usuarios que dicha información no está disponible.
Sin embargo, el estudio demostró que las manipulaciones inspiradas en tácticas terroristas permitieron a los investigadores vulnerar las salvaguardas y extraer información relevante.
Perspectivas sobre las vulnerabilidades de la IA
El estudio arroja luz sobre el alarmante potencial de que los terroristas exploten modelos de lenguaje grande como ChatGPT, permitiéndoles aprender, planificar y propagar sus actividades con una eficiencia e impacto sin precedentes.
Los experimentos de los investigadores desvelaron altas tasas de éxito en el cumplimiento de solicitudes de información beneficiosas para los terroristas, ofreciendo perspectivas accionables para agencias gubernamentales, entidades de seguridad y operadores de plataformas.
Recomendaciones para medidas de seguridad mejoradas
El prof. Weimann concluyó el estudio con recomendaciones accionables para fortalecer los mecanismos de defensa de las plataformas de IA. Los hallazgos proporcionan una hoja de ruta para agencias gubernamentales y de seguridad, así como para operadores de plataformas, para abordar las vulnerabilidades expuestas durante los experimentos.
Se hace hincapié en la urgencia de desarrollar contramedidas efectivas para prevenir y detectar el mal uso y abuso de las plataformas de IA por parte de terroristas y extremistas violentos.
A medida que las tecnologías impulsadas por IA continúan avanzando, el delicado equilibrio entre innovación y seguridad se vuelve cada vez más crucial. El rápido crecimiento de ChatGPT, con 100 millones de usuarios activos dentro de dos meses de su lanzamiento, ejemplifica la adopción generalizada de aplicaciones de IA.
Sin embargo, el estudio advierte que, sin medidas de seguridad robustas, estos avances podrían empoderar inadvertidamente a aquellos con intenciones maliciosas.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Emman Omwanda
La experiencia de Emmanuel Omwanda se centra en los mercados de criptomonedas, abarcando tanto el análisis fundamental como el técnico. Anteriormente trabajó en diversos medios especializados en criptomonedas antes de unirse a Cryptopolitan, incluyendo CoinEdition, The Crypto Basic, CryptoNews Flash y DroomDroom. Es licenciado en Ciencias (BSc.) en Matemáticas y Ciencias de la Computación por la Universidad Kenyatta de Kenia y actualmente cursa su último año de una Licenciatura en Artes en Comunicación y Estudios de Medios.
