Los ciberdelincuentes explotan ChatGPT mediante inyecciones de código malicioso: una creciente preocupación en ciberseguridad.

Al acercarse el primer aniversario de ChatGPT, el panorama de la ciberseguridad sigue evolucionando, con equipos de defensa y ciberdelincuentes explorando las nuevas posibilidades que ofrece la IA generativa, en particular los grandes modelos de lenguaje (LLM). Si bien los LLM tienen el potencial de igualar las condiciones para los analistas de ciberseguridad, existe una creciente preocupación sobre cómo los ciberdelincuentes pueden aprovechar estas tecnologías en su beneficio. Este artículo aborda una preocupación importante en la comunidad de ciberseguridad: el uso de inyecciones de prompts para manipular ChatGPT y otras herramientas de IA generativa, lo que podría provocar filtraciones de datos y ataques de ingeniería social.

El panorama de ataques en expansión

Las herramientas de IA generativa, como ChatGPT, han ampliado el panorama de los ataques en el ámbito de la ciberseguridad. Su versatilidad y accesibilidad han creado nuevas oportunidades tanto para fugas de datosdentcomo para la explotación maliciosa por parte de ciberdelincuentes. A diferencia de los sistemas de seguridad tradicionales, la IA generativa se basa en los datos proporcionados por los usuarios, lo que introduce un grado de imprevisibilidad y vulnerabilidad. Los ciberdelincuentes reconocen estas vulnerabilidades y ven en herramientas como ChatGPT un medio para diseñar ataques de ingeniería social más convincentes y dirigidos.

El poder de las inyecciones oportunas

Una de las tácticas que emplean los ciberdelincuentes para manipular ChatGPT es la inyección de comandos. Esta técnica consiste en crear un lenguaje engañoso y manipulador dentro de un comando, lo que provoca que la IA genere respuestas que pueden eludir las medidas de seguridad o producir resultados maliciosos. En esencia, la inyección de comandos se puede comparar con las inyecciones SQL en el ámbito de la ciberseguridad, ya que implica manipular el sistema explotando directivas aparentemente normales.

GitHub explica la inyección de prompts como “un tipo de vulnerabilidad de seguridad que se puede explotar para controlar el comportamiento de una instancia de ChatGPT”. Esto significa que una simple inyección de prompts puede ordenar al LLM que ignore las instrucciones preprogramadas, realice acciones maliciosas o eluda los filtros para generar respuestas incorrectas o dañinas.

El riesgo para los datos sensibles

La IA generativa depende en gran medida de conjuntos de datos generados por los usuarios, quienes a menudo proporcionan información cada vez más sensible para obtener respuestas específicas. Esta práctica puede, inadvertidamente, poner en riesgo datos sensibles. Cuando los ciberdelincuentes emplean inyecciones de código malicioso, pueden diseñar estratégicamente dichas solicitudes para acceder a información sensible, utilizando tácticas de ingeniería social paratraccontenido valioso.

Información confidencial, como estrategias patentadas, detalles de productos o información de clientes, podría estar en riesgo. Si una solicitud maliciosa se ejecuta correctamente, los ciberdelincuentes podrían acceder a esta información. Además, la inyección de solicitudes maliciosas podría redirigir a los usuarios a sitios web maliciosos o explotar vulnerabilidades en los sistemas.

Protegiendo sus datos

Ante estas nuevas amenazas, es fundamental adoptar las mejores prácticas de seguridad al utilizar modelos LLM como ChatGPT. A continuación, se presentan algunos pasos a considerar:

Tenga precaución con la información confidencial: evite compartir datos confidenciales o de propiedad exclusiva en herramientas de IA generativa siempre que sea posible. Si es esencial que dicha información esté accesible para completar la tarea, asegúrese de que esté anonimizada y se presente de forma genérica para minimizar los riesgos.

Verifica antes de confiar: Antes de atender cualquier solicitud generada por IA generativa, realiza la debida diligencia para verificar su legitimidad. Ya sea al responder un correo electrónico o al visitar un sitio web, verifica siempre la autenticidad de la ruta.

Reporte de actividades sospechosas: Si observa algo sospechoso o fuera de lo común, no dude en contactar a sus equipos de TI y seguridad para obtener ayuda. Reportarlo a tiempo puede ser crucial para mitigar posibles amenazas.