Nos apresuramos a construir el futuro de la IA – Ahora tenemos que defenderlo

Las plataformas digitales no son ajenas a las amenazas de seguridad de todo tipo de fuentes. Tenemos firewalls, técnicas anti-phishing, protección contra virus y más. Siempre es un desafío mantenerse a la vanguardia, pero el juego en sí tiene reglas y normas establecidas. Sabemos qué esperar, e incluso cuando hay una violación, generalmente hay una razón predecible una vez que se realiza la investigación.

El problema es que la evolución de nuestra tecnología avanza tan rápidamente que estamos desarrollando nuevas aplicaciones, nuevos casos de uso e incluso nueva infraestructura mucho más rápido de lo que podemos detenernos a reflexionar sobre dónde podrían estar las debilidades. La forma más común y dolorosa de encontrar una debilidad es cuando un actor malintencionado la explota. Esta no es la forma correcta de hacer negocios, pero debido a la forma rápida en la que recopilamos, analizamos y utilizamos los datos, simplemente no podemos permitirnos esperar a un ataque para aprender dónde podrían estar nuestras debilidades.

Esto es especialmente cierto con las aplicaciones de IA. En términos simples, estas son algunas de las piezas de tecnología más revolucionarias y potentes jamás creadas. También son algunas de las más fáciles de manipular, robar y extraer valor, lo que puede arruinar todo un modelo de negocio en un solo día. ¿Por qué es eso?

Analicemos qué es una aplicación de IA y cómo se crea. Esto nos puede mostrar dos cosas interesantes. Primero, puede resaltar dónde los actores malintencionados pueden tratarla como un coche robado, llevarla a un taller digital de desguace y venderla por piezas. Segundo, puede mostrar que donde hay puntos débiles en el proceso, si se tratan correctamente, podemos encontrar vías de monetización. También podemos ver que con Web3, es posible proteger y monetizar los pipelines de IA. De hecho, plataformas como iExec ya están comenzando a mostrar promesa en esta área.

Pipeline de IA bajo amenaza

El primer paso para proteger estos pipelines de IA es entender dónde son más vulnerables, y desafortunadamente hay una serie de puntos que pueden ser atacados.  

Comienza con los datos. Poder tener los datos correctos necesarios para entrenar una herramienta de IA es absolutamente crítico, y a menudo requiere recursos significativos para obtenerlos. Ya sea que un equipo tenga que recopilarlos ellos mismos a través de una amplia gama de entradas, o que tengan que comprar los datos a un corredor de terceros. En cualquier caso, los datos en sí son extremadamente valiosos, y poder ver los datos también puede obtener información clave sobre cómo la plataforma utilizará su IA, cómo está estructurada la arquitectura de la IA y cómo podría desempeñarse la IA. Todos estos son grandes ventajas competitivas, y que otra parte tenga esta información es peligroso para el equipo que la construye. Los datos simplemente deben protegerse, a toda costa.

Las amenazas no terminan ahí, sin embargo. Después de que un equipo recopila los datos correctos, necesitan construir un modelo de IA que lo utilice y genere valor. Este modelo debe construirse, luego entrenarse y probarse con los datos. Este es un proceso iterativo que el equipo llevará a cabo para aprender y mejorar el modelo final. Este proceso requiere una potencia de procesamiento y mano de obra significativas, y lo último que el equipo quiere es que alguien más se aproveche de este trabajo. Sin embargo, si un equipo externaliza este trabajo a un proveedor que no es completamente confiable (y estos modelos a menudo requieren enormes recursos para proporcionar potencia de procesamiento), ese proveedor podría copiar fácilmente el modelo, la inferencia o los resultados del entrenamiento. Este es el verdadero valor del desarrollo del proyecto de IA, y arruinaría el valor único del equipo para sus clientes. Finalmente, si un equipo trabaja con un proveedor, ese proveedor podría aprovecharse de los resultados de una consulta de un cliente. Saber esa información podría permitir al aprovechador robar clientes, pero también aprender más sobre lo que los clientes solicitan (y lo que están dispuestos a pagar). Esta es otra ventaja más que se pierde si ese conocimiento se ve comprometido.

Protegiendo el Pipeline

Como se mencionó anteriormente, Web3 tiene mucho que ofrecer a un pipeline de IA bajo amenaza. Aunque al principio pueda no parecerlo, Web3 y la IA pueden trabajar muy bien de la mano. La clave está en las TEE (Entornos de Ejecución de Confianza), trabajando en un espacio descentralizado, y es por eso que plataformas como iExec están liderando en esta área. Los datos y el modelo pueden estar encriptados para evitar su examen, pero al usar una TEE dentro de un entorno Web3, el modelo puede operarse on-chain y de manera transparente para su propietario sin que nadie, incluido el proveedor de procesamiento, pueda verlo. Una vez que los resultados de una consulta a un modelo de IA también están encriptados, solo el cliente que pagó por la consulta (y el propietario del modelo) puede beneficiarse.

La plataforma iExec tiene una serie de casos de uso que muestran cómo funciona este proceso, con uno de los más simples mostrando cómo un generador de imágenes por IA podría estar completamente protegido. Esto actualmente no es el caso con ninguno de los grandes generadores de imágenes por IA, con mucha de la información disponible para otros. Incluso si construyeras tu propio generador de imágenes por IA, cualquier plataforma que ejecutara el modelo podría tener una ventaja significativa ya que podrían ver los datos, el modelo y tanto las entradas como las salidas. No se necesitaría mucho para que el proveedor esencialmente copiara el trabajo y creara el suyo propio. Si se aloja en una plataforma segura, un generador de imágenes por IA podría estar bien protegido. Este caso de uso muestra cómo este tipo de producto protege las consultas de entrada del usuario a través de una TEE, a la cual no se puede acceder.

Otras características pueden ayudar a agilizar y monetizar el proceso. La función DataProtector está diseñada para envolver los datos como un activo digital con el fin de protegerlos de la visualización o extracción por parte de una parte no autorizada, y como activo digital permitir su monetización si se desea. En términos de construir/lanzar la aplicación del caso de uso, el iApp Generator tomará el pipeline protegido y lo convertirá más fácilmente en una aplicación funcional, todo dentro de la seguridad de la TEE. En términos de aumentar los niveles más altos de procesamiento, firmas como iExec ofrecen un uso potente de GPU en forma de Intel TDX, permitiendo a los usuarios operar las GPU dentro de la TEE. Para la comunicación crítica tanto durante el proceso de desarrollo como mucho más allá, los usuarios pueden usar una herramienta especializada Web3Mail que permite una comunicación totalmente protegida entre titulares de cuentas de Ethereum (incluso sin conocer su dirección de correo electrónico). Esto asegura que tanto el pipeline en sí, como la comunicación a su alrededor, estén completamente protegidos. 

Usando todas estas herramientas en concierto, la TEE procesa la generación de imágenes por IA, y el resultado está encriptado pero también almacenado en una red descentralizada, lo que asegura completamente el resultado final solo para el usuario. Esto crea un producto que no solo es seguro, sino también a prueba de manipulaciones y resistente a la censura, lo que cubre una gran cantidad de amenazas.  

La IA de confianza va más allá de asegurar los datos. Los modelos deben ser a prueba de manipulaciones.https://t.co/87iSNFYMMC

— iExec RLC (@iEx_ec) 18 2025 de abril

Mirando hacia el futuro

¿Cuál es el resultado de todo esto? Si está bien protegido utilizando una infraestructura Web3 y TEEs bien construidas, los pipelines de IA pueden asegurarse en cada paso. Esto es importante porque permite la monetización en cada paso sin la amenaza de aprovechadores que roben el valor. Un equipo podría monetizar los datos en sí, el modelo, el procesamiento del algoritmo o las salidas. Esto construye muchas opciones diferentes, y lo hace en un entorno que durante mucho tiempo se ha considerado inseguro para proyectos de IA fáciles de robar. Muestra que equipos grandes y pequeños pueden desarrollar IA sin tener que poseer todos los datos, los recursos de procesamiento para el desarrollo y la plataforma para alojar el producto lanzado. El pipeline de IA está seguro, protegiendo a quienes lo poseen y que han puesto tanto esfuerzo en construir estos productos innovadores.