Los hackers inundan Gemini de Google con preguntas en una masiva operación de robo de IA

El chatbot de IA de Google, Gemini, se ha convertido en el objetivo de un robo de información a gran escala, con atacantes bombardeando el sistema con preguntas para copiar su funcionamiento. Una sola operación envió más de 100.000 consultas al chatbot, intentando extraer los patrones secretos que lo hacen inteligente.

La empresa informó el jueves que estos llamados «ataques de destilación» están empeorando. Los actores maliciosos envían oleada tras oleada de preguntas para descifrar la lógica detrás de las respuestas de Gemini. Su objetivo es simple: robar la tecnología de Google para construir o mejorar sus propios sistemas de IA sin gastar miles de millones en desarrollo.

Google cree que la mayoría de los atacantes son empresas privadas o investigadores que buscan adelantarse sin hacer el trabajo duro. Los ataques provenían de todo el mundo, según el informe de la compañía. John Hultquist, quien dirige el Grupo de Inteligencia de Amenazas de Google, dijo que las empresas más pequeñas que utilizan herramientas de IA personalizadas probablemente enfrentarán ataques similares pronto.

Las empresas tecnológicas han invertido miles de millones de dólares en construir sus chatbots de IA. El funcionamiento interno de estos sistemas se trata como joyas de la corona. Incluso con defensas implementadas para detectar estos ataques, los principales sistemas de IA siguen siendo objetivos fáciles porque cualquiera con acceso a Internet puede hablar con ellos.

El año pasado, OpenAI señaló a la empresa china DeepSeek, alegando que utilizó la destilación para mejorar sus modelos. Cryptopolitan informó el 30 de enero que Italia e Irlanda prohibieron a DeepSeek después de que OpenAcusó a la empresa china de usar la destilación para robar sus modelos de IA. La técnica permite a las empresas copiar tecnología costosa a una fracción del costo.

¿Por qué hacen esto los atacantes?

La economía es brutal. Construir un modelo de IA de última generación cuesta cientos de millones o incluso miles de millones de dólares. Según informes de la industria, DeepSeek reportedly construyó su modelo R1 por alrededor de seis millones de dólares utilizando destilación, mientras que el desarrollo de ChatGPT-5 superó los dos mil millones de dólares. Robar la lógica de un modelo reduce esa enorme inversión a casi nada.

Muchos de los ataques a Gemini apuntaron a los algoritmos que ayudan a «razonar» o procesar información, dijo Google. Las empresas que entrenan sus propios sistemas de IA con datos sensibles, como 100 años de estrategias de negociación o información de clientes, ahora enfrentan la misma amenaza.

«Digamos que tu LLM ha sido entrenado con 100 años de pensamiento secreto sobre la forma en que negocias. Teóricamente, podrías destilar parte de eso», explicó Hultquist.

Los hackers de estado-nación se unen a la búsqueda

El problema va más allá de las empresas ávidas de dinero. APT31, un grupo de hackers del gobierno chino sancionado por EE. UU. en marzo de 2024, utilizó Gemini a finales del año pasado para planificar ciberataques reales contra organizaciones estadounidenses.

El grupo combinó Gemini con Hexstrike, una herramienta de hacking de código abierto que puede ejecutar más de 150 programas de seguridad. Analizaron vulnerabilidades de ejecución remota de código, formas de eludir la seguridad web y ataques de inyección SQL, todos dirigidos a objetivos específicos de EE. UU., según el informe de Google.

Cryptopolitan cubrió preocupaciones similares sobre la seguridad de la IA anteriormente, advirtiendo que los hackers estaban explotando vulnerabilidades de la IA. El caso APT31 demuestra que esas advertencias fueron certeras.

Hultquist señaló dos grandes preocupaciones. Adversarios que operan en toda la intrusión con mínima ayuda humana, y la automatización del desarrollo de herramientas de ataque. «Estas son dos formas en que los adversarios pueden obtener ventajas importantes y avanzar en el ciclo de intrusión con mínima interferencia humana», dijo.

La ventana entre descubrir una debilidad de software y tener un parche en su lugar, llamada brecha de parcheo, podría ampliarse drásticamente. Las organizaciones a menudo tardan semanas en implementar defensas. Con agentes de IA que encuentran y prueban vulnerabilidades automáticamente, los atacantes podrían moverse mucho más rápido.

«Tendremos que aprovechar las ventajas de la IA y eliminar cada vez más a los humanos del bucle, para que podamos responder a velocidad de máquina», dijo Hultquist a The Register.

Las apuestas financieras son enormes. El informe de brechas de datos de IBM de 2024 encontró que el robo de propiedad intelectual ahora cuesta a las organizaciones 173 $ por registro, con brechas centradas en la PI que aumentaron un 27 % interanual. Los pesos de los modelos de IA representan los objetivos de mayor valor en esta economía subterránea: un solo modelo de vanguardia robado podría obtener cientos de millones en el mercado negro.

Google ha cerrado cuentas vinculadas a estas campañas, pero los ataques continúan llegando «desde todo el mundo», dijo Hultquist. A medida que la IA se vuelve más poderosa y más empresas dependen de ella, se espera que esta fiebre del oro digital se intensifique. La pregunta no es si vendrán más ataques, sino si los defensores podrán mantener el ritmo.