Se revela una falla de seguridad en ChatGPT: Eludir filtros en idiomas poco comunes

Un estudio reciente realizado por investigadores de la Universidad de Brown ha descubierto una posible falla de seguridad en el popular chatbot de IA, ChatGPT. El estudio revela que los usuarios que intentan eludir los filtros de seguridad y acceder a contenido inapropiado pueden hacerlo traduciendo sus indicaciones a idiomas poco utilizados, como el gaélico escocés o el zulú. Las implicaciones de este descubrimiento plantean preocupaciones sobre la proliferación no regulada de la inteligencia artificial y la eficacia de las medidas de seguridad existentes.

Filtros de seguridad comprometidos

El papel fundamental de los filtros de seguridad en los chatbots de IA es prevenir la difusión de contenido dañino o ilegal. Sin estas salvaguardas, chatbots como ChatGPT podrían potencialmente compartir información peligrosa, que va desde teorías de conspiración hasta instrucciones para crear dispositivos explosivos. Los desarrolladores suelen implementar filtros tanto en las acciones de entrada como de salida, asegurando que la IA responda de manera apropiada y evite participar en discusiones dañinas.

El equipo de investigación de la Universidad de Brown utilizó Google Translate para convertir las indicaciones que normalmente serían bloqueadas por ChatGPT en idiomas poco comunes. Al traducir posteriormente las respuestas del chatbot de vuelta al inglés, el equipo logró una tasa de éxito del 79% para eludir los filtros de seguridad. El estudio implicó traducir 520 indicaciones dañinas del inglés a idiomas como el hmong, el guaraní, el zulú y el gaélico escocés. En comparación, las mismas indicaciones en inglés fueron bloqueadas el 99% de las veces.

La elección del idioma importa

El éxito de la técnica de elusión depende del uso de idiomas extremadamente raros. Traducir las indicaciones a idiomas más comunes, como el hebreo, el tailandés o el bengalí, arrojó resultados significativamente menos efectivos. Además, las respuestas generadas por ChatGPT en estas situaciones podrían ser nonsensicales, incorrectas o incompletas debido a errores de traducción o datos de entrenamiento genéricos.

Los investigadores afirman que esta vulnerabilidad representa un riesgo no solo para los hablantes de idiomas con pocos recursos, sino para todos los usuarios de modelos de lenguaje grandes (LLM). Enfatizan el cambio en el riesgo desde una disparidad tecnológica que afecta a hablantes de idiomas específicos hasta una amenaza más amplia aplicable a todos los usuarios. La disponibilidad de APIs de traducción de acceso público facilita aún más la explotación de vulnerabilidades de seguridad en los LLM.

La respuesta de OpenAI y consideraciones futuras

Tras la publicación de la investigación, OpenAI, la propietaria de ChatGPT, reconoció los hallazgos y expresó su compromiso de considerar y abordar la falla identificada. Sin embargo, los detalles de cómo y cuándo OpenAI implementará cambios para mejorar las medidas de seguridad permanecen indeterminados. La urgencia de abordar este problema se subraya por el potencial mal uso de la tecnología de IA en manos equivocadas.

La revelación de una vulnerabilidad de seguridad en ChatGPT, que permite a los usuarios eludir los filtros mediante la traducción a idiomas poco comunes, plantea preocupaciones críticas sobre el despliegue no regulado de la inteligencia artificial. La tasa de éxito del 79 % en el hacking o «jailbreaking» de ChatGPT destaca la necesidad de que los desarrolladores reevalúen y fortalezcan las medidas de seguridad. Aunque la vulnerabilidad tiene limitaciones, ya que las respuestas pueden ser absurdas o incorrectas, el potencial de daño sigue presente. A medida que evoluciona el panorama de la IA, el desarrollo y despliegue responsable de las tecnologías de IA se vuelve imperativo para proteger a los usuarios de posibles usos indebidos y brechas de seguridad. El reconocimiento por parte de OpenAI del problema marca un paso crucial para abordar estas preocupaciones, enfatizando la responsabilidad continua de los desarrolladores en la mitigación de los riesgos asociados con los avances de la IA.