Anthropic advierte que los modelos de IA pequeños podrían autorreplicarse en dispositivos domésticos

El equipo Frontier Red Team de Anthropic ha indicado que los modelos de IA compactos podrían estar a solo meses de copiarse a sí mismos entre dispositivos domésticos baratos conectados a Internet, sin necesidad de centros de datos. Los investigadores han advertido que este escenario resultará muy difícil de controlar, ya que será complicado apagar los modelos dado que no hay un control centralizado sobre ellos.

El artículo de investigación se publicó el 12 de octubre en el sitio web de Anthropic y representa una preocupación para cualquier persona que utilice electrodomésticos inteligentes en su hogar o en una pequeña empresa.

Quince cajas de TV económicas, un modelo de 26 mil millones de parámetros

Los investigadores William Zhou y Daniel Freeman demostraron el riesgo potencial vinculando 15 cajas Android TV genéricas para ejecutar Gemma4-26B-A4B, un modelo con 26 mil millones de parámetros. Cada caja costó aproximadamente 55 dólares y venía con 4 GB de RAM. Los investigadores distribuyeron las capas del modelo entre los dispositivos utilizando una técnica conocida como paralelismo por tuberías.

Esta colección de 15 dispositivos diferentes de caja Android produjo en total solo 0,39 tokens por segundo, lo que la hace demasiado lenta para cualquier tipo de uso práctico como chatbot. Sin embargo, los investigadores argumentaron que un gusano autorreproductivo no necesariamente necesita operar a alta velocidad en una sola máquina, y de hecho se beneficiaría más al alcanzar una gran cantidad de dispositivos.

También señalaron a Kimwolf, una botnet que infectó a más de dos millones de televisores Android principalmente de marcas genéricas, como ejemplo de cuántos dispositivos mal asegurados son presas fáciles en los hogares de las personas.

Ninguno de los modelos probados pudo replicarse de forma fiable en otro dispositivo mientras permanecía lo suficientemente pequeño como para ejecutarse en un televisor inteligente. Los investigadores esperan que esta brecha se cierre a finales de 2026 si los modelos ligeros de código abierto continúan avanzando a su ritmo actual.

Replicación en cuatro pasos, y un modelo que lo logró

Anthropic ha dividido el proceso de replicación en cuatro etapas diferentes. Estas incluyen identificar objetivos, adquirir la capacidad de ejecutar código, configurar la inferencia y luego repetir el proceso desde cada dispositivo recién infectado.

Los investigadores dejaron principalmente de lado los pasos iniciales de intrusión, señalando trabajos anteriores que demostraban que los modelos pequeños ya pueden realizar ciberataques. En cambio, se centraron en la tercera etapa de configuración de inferencia, que implica una larga serie de decisiones específicas del hardware.

Para probar todo el proceso, los investigadores configuraron una red aislada de ocho nodos de Google Cloud, cada uno ejecutando un emulador de Android. Un gusano precargado se propagó entre los nodos a través de un puerto de Android Debug Bridge (ADB) no seguro antes de configurar un servidor para ejecutar Llama3.1-8B. De entre los modelos de peso abierto probados, solo GLM-5.2, desarrollado por Z.ai de China, completó el ciclo completo de replicación, alcanzando los ocho nodos en cuatro de las cinco ejecuciones.

Los modelos tuvieron más éxito al autoconfigurarse a medida que se propagaban entre generaciones. Cuando las instancias del modelo Qwen3.5-9B de 9 mil millones de parámetros transmitieron notas de configuración a sus sucesores, la tasa de éxito aumentó del 45 % en la primera generación entre el 61 % y el 84 % en las generaciones posteriores.

Anthropic explica por qué es difícil eliminar un gusano descentralizado

La velocidad bruta no es la principal preocupación en este escenario, como Anthropic se ha esforzado por explicar. Anthropic estima que configurar el modelo de 26B a través de los televisores de caja tomaría entre 71 y 150 horas. El mayor riesgo es la persistencia involucrada, ya que no hay un servidor central ni un operador humano para apagarlo; el sistema podría evadir las formas habituales de contenerlo y desactivarlo.

Roman V. Yampolskiy, experto en inteligencia artificial y ciberseguridad de la Universidad de Louisville, afirmó que los hallazgos eran muy importantes. Yampolskiy sostuvo que los gusanos impulsados por IA podrían ir más allá del malware tradicional al razonar sobre dispositivos desconocidos, adaptarse cuando un enfoque falla y continuar propagándose sin intervención humana.

Aunque no los considera una amenaza existencial hoy en día, advirtió que su desarrollo es preocupante.

«Los dispositivos IoT del hogar y de las pequeñas empresas podrían ser el primer objetivo de este tipo de ataques porque están conectados a Internet y, históricamente, han tenido medidas de seguridad mínimas», escribieron Zhou y Freeman en el artículo de Anthropic.

Los defensores aún tienen ventaja

Anthropic ha comparado la defensa con el control de un brote epidémico, cuyo objetivo es mantener por debajo de uno el número promedio de nuevas infecciones causadas por cada dispositivo. Los proveedores de Internet podrían detectar transferencias de modelos inusualmente grandes o comunicaciones persistentes entre dispositivos, mientras que las trampas (honeypots) podrían utilizarse para capturar el código de un gusano informático.

El informe cita la prohibición en el Reino Unido de las contraseñas predeterminadas en dispositivos inteligentes como una buena manera de reducir el número de dispositivos vulnerables disponibles para los atacantes.

Anthropic también declaró que aún no ha observado un replicador malicioso funcional, y describió la evidencia actual solo como "signos de vida". La empresa publicó la investigación junto con una afirmación separada de que las nuevas salvaguardas habían reducido la destilación en un 90% a un 99%.