Nos apresuramos a construir el futuro de la IA: ahora tenemos que defenderlo

Las plataformas digitales están familiarizadas con las amenazas de seguridad de todo tipo. Contamos con firewalls, técnicas antiphishing, protección antivirus y más. Siempre es un reto mantenerse a la vanguardia, pero el juego en sí tiene reglas y normas establecidas. Sabemos qué esperar, e incluso cuando se produce una brecha de seguridad, suele haber una razón predecible una vez realizada la investigación.

El problema es que nuestra evolución tecnológica avanza tan rápido que desarrollamos nuevas aplicaciones, nuevos casos de uso e incluso nueva infraestructura mucho más rápido de lo que podemos detenernos y analizar dónde podrían estar las debilidades. La forma más común, y dolorosa, de encontrar una debilidad es cuando un actor malicioso la explota. Esta no es la forma correcta de hacer negocios, pero debido a la rápida evolución en la que recopilamos, analizamos y utilizamos los datos, simplemente no podemos permitirnos esperar a un ataque para descubrir dónde podrían estar nuestras debilidades.

Esto es especialmente cierto con las aplicaciones de IA. En resumen, se trata de algunas de las tecnologías más revolucionarias y potentes jamás creadas. También son de las más fáciles de manipular, robar y de las que se puedetracvalor, lo que puede arruinar por completo un modelo de negocio en un solo día. ¿Por qué?

Analicemos qué es una aplicación de IA y cómo se crea. Esto nos puede revelar dos aspectos interesantes. Primero, nos permite identificar dónde los ciberdelincuentes podrían utilizarla como si fuera un coche robado, desmantelándola digitalmente y vendiéndola por piezas. Segundo, nos muestra que, si se abordan correctamente los puntos débiles del proceso, podemos encontrar oportunidades de monetización. También podemos observar que, con Web3, es posible proteger y monetizar los flujos de trabajo de IA. De hecho, plataformas como iExec ya están demostrando su potencial en este ámbito.

El pipeline de IA está bajo amenaza

El primer paso para proteger estas redes de IA es comprender dónde son más vulnerables y, lamentablemente, hay varios puntos que pueden ser atacados.  

Todo empieza con los datos. Disponer de los datos necesarios para entrenar una herramienta de IA es fundamental, y a menudo requiere una cantidad considerable de recursos para obtenerlos. Un equipo debe recopilarlos por sí mismo a partir de una amplia gama de datos, o bien adquirirlos a un intermediario externo. En cualquier caso, los datos en sí son extremadamente valiosos, y poder visualizarlos también permite obtener información clave sobre cómo la plataforma utilizará su IA, cómo está estructurada su arquitectura y cómo podría funcionar. Todas estas son ventajas competitivas importantes, y que un tercero tenga esta información es peligroso para el equipo que la desarrolla. Los datos deben protegerse a toda costa.

Sin embargo, las amenazas no terminan ahí. Una vez que un equipo recopila los datos correctos, necesita construir un modelo de IA que los utilice y genere valor. Este modelo debe construirse, entrenarse y probarse con los datos. Este es un proceso iterativo que el equipo llevará a cabo para aprender y mejorar el modelo final. Este proceso requiere una gran capacidad de procesamiento y mano de obra, y lo último que el equipo desea es que alguien más se apropie de este trabajo. Sin embargo, si un equipo externaliza este trabajo a un proveedor que no es completamente confiable (y estos modelos a menudo requieren grandes recursos para proporcionar capacidad de procesamiento), ese proveedor podría copiar fácilmente el modelo, la inferencia o los resultados del entrenamiento. Este es el verdadero valor del desarrollo del proyecto de IA y arruinaría el valor único que el equipo ofrece a sus clientes. Finalmente, si un equipo trabaja con un proveedor, este podría apropiarse de los resultados de una consulta de un cliente. Conocer esa información podría permitirle robar clientes, pero también obtener más información sobre lo que los clientes solicitan (y lo que están dispuestos a pagar). Esta es otra ventaja que se pierde si ese conocimiento se ve comprometido.

Protegiendo el oleoducto

Como se mencionó anteriormente, Web3 tiene mucho que ofrecer a un flujo de trabajo de IA amenazado. Aunque a primera vista no lo parezca, Web3 e IA pueden funcionar de forma muy eficaz. La clave reside en los Entornos de Ejecución Confiables (TEE), que funcionan en un espacio descentralizado, y por eso plataformas como iExec son líderes en este ámbito. Tanto los datos como el modelo pueden cifrarse para evitar su análisis, pero al usar un TEE en un entorno Web3, el modelo puede operar en cadena y de forma transparente para su propietario, sin que nadie, incluido el proveedor de procesamiento, pueda verlo. Una vez cifrados también los resultados de una consulta a un modelo de IA, solo el cliente que pagó por la consulta (y el propietario del modelo) pueden beneficiarse.

La plataforma iExec cuenta con varios casos de uso que ilustran el funcionamiento de este proceso. Uno de los más sencillos muestra cómo proteger completamente un generador de imágenes con IA. Actualmente, esto no ocurre con la mayoría de los grandes generadores de imágenes con IA, ya que gran parte de la información está disponible para terceros. Incluso si se creara un generador de imágenes con IA propio, la plataforma que ejecuta el modelo podría tener una ventaja significativa, puesto que podría acceder a los datos, el modelo y tanto las entradas como las salidas. Al proveedor le resultaría muy fácil copiar el trabajo y crear el suyo propio. Si se aloja en una plataforma segura, un generador de imágenes con IA podría estar bien protegido. Este caso de uso muestra cómo este tipo de producto protege las consultas de entrada del usuario mediante un TEE (Entorno de Ejecución Transaccional), al que no se puede acceder.  

Otras funciones pueden ayudar a agilizar y monetizar el proceso. La función DataProtector está diseñada para encapsular los datos como un activo digital, protegiéndolos de la visualización otracno autorizada y, como activo digital, permitiendo su monetización si se desea. En cuanto a la creación y el lanzamiento de la aplicación del caso de uso, iApp Generator tomará el pipeline protegido y lo convertirá más fácilmente en una aplicación funcional, todo ello dentro de la seguridad del TEE. Para aumentar los niveles de procesamiento, empresas como iExec ofrecen un potente uso de la GPU mediante Intel TDX, lo que permite a los usuarios operar las GPU dentro del TEE. Para la comunicación crítica, tanto durante el proceso de desarrollo como mucho después de este, los usuarios pueden utilizar una herramienta especializada Web3Mail que permite una comunicación totalmente protegida entre los titulares de cuentas Ethereum (incluso sin conocer su dirección de correo electrónico). Esto garantiza que tanto el pipeline en sí como la comunicación a su alrededor estén completamente protegidos. 

Utilizando todas estas herramientas en conjunto, el TEE procesa la generación de imágenes de IA. El resultado se cifra y se almacena en una red descentralizada, lo que garantiza la seguridad total del resultado final, exclusivamente para el usuario. Esto crea un producto no solo seguro, sino también a prueba de manipulaciones y censura, lo que lo protege de numerosas amenazas.  

Una IA confiable va más allá de proteger los datos. Los modelos deben ser a prueba de manipulaciones.https://t.co/87iSNFYMMC

— iExec RLC (@iEx_ec) 18 de abril de 2025

Mirando hacia el futuro

¿Cuál es el resultado de todo esto? Si se protegen adecuadamente mediante una infraestructura Web3 y ETE bien construidas, las canalizaciones de IA pueden protegerse en cada paso. Esto es fundamental porque permite la monetización en cada paso sin la amenaza de que se robe el valor. Un equipo podría monetizar los datos, el modelo, el procesamiento del algoritmo o los resultados. Esto genera diversas opciones, y lo hace en un entorno que durante mucho tiempo se ha considerado inseguro para proyectos de IA fáciles de robar. Demuestra que equipos grandes y pequeños pueden desarrollar IA sin tener que poseer todos los datos, los recursos de procesamiento para el desarrollo y la plataforma para alojar el producto final. La canalización de IA es segura, protegiendo a quienes la poseen y a quienes han dedicado tanto esfuerzo al desarrollo de estos productos innovadores.