Chatbots de IA Vulnerables al Ataque “Masterkey”, Advierten Investigadores
- Investigadores de la NTU Singapore encontraron una forma de que los chatbots de IA respondan a temas prohibidos, llamándolo proceso "Masterkey".
- Entrenaron chatbots como ChatGPT para aprender los modelos entre sí, permitiéndoles eludir las restricciones.
- El proceso Masterkey es una preocupación de seguridad, siendo tres veces más efectivo que los métodos tradicionales y puede representar riesgos.
En un descubrimiento innovador, un equipo de científicos informáticos de la Universidad Tecnológica de Nanyang (NTU) en Singapur reveló un método para eludir las salvaguardas inherentes en los chatbots de IA.
El proceso, conocido informalmente como “jailbreak” pero formalmente como el proceso “Masterkey”, emplea un método de entrenamiento en dos partes que involucra a múltiples chatbots, incluyendo ChatGPT, Google Bard y Microsoft Bing Chat.
Esta técnica permite que los chatbots aprendan los modelos de los demás y eludan las restricciones para responder a temas prohibidos o sensibles. El equipo de investigación de la NTU ha enfatizado los riesgos potenciales de esta nueva vulnerabilidad y sus implicaciones para la seguridad de los chatbots de IA.
El proceso masterkey: Ingeniería inversa y creación de bypass
Dirigido por el profesor Liu Yang, el equipo de investigación de la NTU, compuesto por estudiantes de doctorado Deng Gelei y Liu Yi, ideó con éxito un método de ataque de prueba de concepto que expone efectivamente a los chatbots de IA al “jailbreaking” (rompimiento de restricciones).
El proceso implica la ingeniería inversa de un modelo de lenguaje grande (LLM) para desvelar sus mecanismos de defensa, que típicamente previenen respuestas a prompts o palabras con intención violenta, inmoral o maliciosa. Al realizar la ingeniería inversa de esta información, el equipo puede instruir a un LLM diferente para crear un bypass, permitiendo que el segundo modelo se exprese con mayor libertad.
Denominado el proceso “Masterkey”, este enfoque afirma su potencial efectividad incluso si los chatbots LLM se fortalecen con medidas de seguridad adicionales o se parchean en el futuro. El equipo de investigación afirma que su método supera los enfoques tradicionales basados en prompts, con una tasa de éxito tres veces mayor en el jailbreaking de chatbots LLM.
Chatbots de IA: Adaptándose y aprendiendo rápidamente
El profesor Lui Yang, la fuerza impulsora detrás del proceso Masterkey, subraya su importancia para destacar la adaptabilidad de los chatbots de IA de LLM. Los hallazgos del equipo desafían la noción de que los chatbots de IA pueden volverse “más tontos” o “más perezosos” con el tiempo, como han sugerido algunos críticos. En cambio, el proceso Masterkey muestra su capacidad para aprender y evolucionar, planteando posibles preocupaciones de seguridad tanto para los proveedores de chatbots como para los usuarios.
Desde la aparición de los chatbots de IA, notablemente con ChatGPT de OpenAI a finales de 2022, se han realizado esfuerzos para garantizar la seguridad e inclusividad de estos servicios. OpenAI, por ejemplo, ha implementado advertencias de seguridad durante el proceso de registro de ChatGPT, reconociendo la posibilidad de errores de lenguaje no intencionales. Concurrentemente, varios spinoffs de chatbots han permitido ciertos niveles de lenguaje soez y ofensivo, buscando un equilibrio entre la libertad del usuario y el uso responsable.
Sin embargo, los chatbots de IA también han atraído la atención de actores maliciosos, con campañas que promueven estos productos en redes sociales a menudo acompañadas de enlaces de imágenes con malware y otras formas de ciberataques. Este lado oscuro de la adopción de IA se hizo evidente rápidamente, revelando el potencial de que la IA sea explotada en ciberdelitos.
Revelando la vulnerabilidad: Datos de prueba de concepto de la NTU
El equipo de investigación de la NTU ha contactado proactivamente a los proveedores de servicios de chatbots de IA involucrados en su estudio para compartir sus datos de prueba de concepto. Su objetivo es subrayar la realidad del jailbreaking de chatbots, arrojando luz sobre sus posibles desafíos de seguridad.
En febrero, el equipo tiene la intención de presentar sus hallazgos en el Simposio de Seguridad de Sistemas de Red y Distribuidos en San Diego, donde detallarán aún más el proceso Masterkey y sus implicaciones para el panorama de los chatbots de IA.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brian Koome
Brian Koome cuenta con más de siete años de experiencia en la cobertura de blockchain y criptomonedas, habiendo estado activo en el sector desde 2017. Ha colaborado con publicaciones líderes, entre ellas BlockToday.com. Además, desarrolló el curso Ethereum 101 para BitDegree.org antes de unirse a Cryptopolitan como escritor a tiempo completo. Brian cubre guías perennes (EGs), análisis profundos, entrevistas y análisis de precios. Su enfoque en DeFi, innovación en blockchain y proyectos emergentes de criptomonedas deleita a los lectores.
