Hugging Face recibe una gran cantidad de modelos de IA para pruebas y evaluación, vulnerables a los hackers. La velocidad de adaptación de la inteligencia artificial es sin precedentes. Este frenesí ha impulsado el desarrollo de numerosas herramientas beneficiosas, pero también ha proporcionado a los hackers una forma más rápida y sencilla de implementar sus estrategias maliciosas. Hablando de Hugging Face, los hackers tenían una forma de obtener información de los usuarios ejecutando sus propios códigos.
Según investigadores de la empresa de seguridad en la nube WIZ, existían dos fallas importantes en la arquitectura del sistema donde se ejecutaban los modelos de aprendizaje automático (ML). Estas fallas, concretamente el riesgo de adquisición de la infraestructura de inferencia compartida y el riesgo de adquisición de la integración y el despliegue continuos (CI/CD) compartidos, dejaban a los usuarios a merced de hackers de sombrero negro. En resumen, estas fallas proporcionaban a los hackers una vía secreta para cargar su código, lo que les permitía manipular los registros.
La colaboración entre Hugging Face y WIZ para explorar las deficiencias
Los hackers podían acceder sin autorización a los datos de otros usuarios subiendo sus propios modelos de IA maliciosos. Esto representaba un grave problema y podría perjudicar la dent de Hugging Face, ya que estas plataformas se utilizan ampliamente para almacenar y procesar modelos de IA como plataforma de IA como servicio (AlaaS). WIZ se asoció con empresas de AaaS para detectar vulnerabilidades de seguridad en estas plataformas. En el caso de Hugging Face, su inmensa popularidad y adopción la pusieron en el punto de mira de los hackers. La colaboración de WIZ brindó una excelente oportunidad para que Hugging Face mediara en las deficiencias de su sistema y reforzara las medidas de seguridad de la plataforma.
Como sabemos, los modelos de IA requieren mayor potencia de GPU para ejecutar sus funciones, por lo que las startups y otros proveedores más pequeños recurren a empresas proveedoras de servicios de IA. La API de interfaz de Hugging Face también ofrece el mismo servicio. En el proceso, WIZ Research ejecutó su propio modelo de IA malicioso con características peligrosas que comprometieron el servicio Hugging Face. Esto hizo vulnerable el sistema y WIZ pudo acceder a otros modelos de clientes que utilizaban el servicio Hugging Face.
Soluciones y remedios para la protección en las plataformas Alaas
WIZ declaró en su blog que estas deficiencias y hallazgos no solo afectan a Hugging Face, sino que tienen implicaciones más amplias para toda la industria de la IA como servicio. Todos los actores de la industria corren un riesgo considerable, ya que los hackers los ven como un GitHub de modelos de IA y buscan obtener acceso ilegal entre usuarios.
Hugging Face y Wiz sugirieron conjuntamente algunas precauciones para prevenir brechas de seguridad. Recomendaron controles de seguridad estrictos y la monitorización regular de las actividades. También sugirieron el uso de registros seguros y la creación de un entorno aislado para ejecutar las aplicaciones de usuario, protegiendo mejor los lugares donde almacenan su código para evitar el acceso entre usuarios.
