Nos apressamos para construir o futuro da IA ​​– agora temos que defendê-lo

As plataformas digitais estão acostumadas a ameaças de segurança vindas de diversas fontes. Temos firewalls, técnicas anti-phishing, proteção antivírus e muito mais. É sempre um desafio estar um passo à frente, mas o próprio jogo tem regras e normas estabelecidas. Sabemos o que esperar e, mesmo quando ocorre uma violação, geralmente há uma razão previsível após a investigação.

O problema é que a evolução da nossa tecnologia está acontecendo tão rapidamente que estamos desenvolvendo novos aplicativos, novos casos de uso e até mesmo novas infraestruturas muito mais depressa do que conseguimos parar e pensar em possíveis vulnerabilidades. A maneira mais comum, e dolorosa, de encontrar uma vulnerabilidade é quando um agente malicioso a explora. Essa não é a forma correta de fazer negócios, mas, devido à rápida evolução da maneira como coletamos, analisamos e utilizamos dados, simplesmente não podemos nos dar ao luxo de esperar por um ataque para descobrir onde estão nossas vulnerabilidades.

Isso é especialmente verdade no caso das aplicações de IA. Simplificando, essas são algumas das tecnologias mais revolucionárias e poderosas já criadas. Elas também estão entre as mais fáceis de manipular, roubar e das quais se podetracvalor, o que pode arruinar um modelo de negócios inteiro em um único dia. Por quê?

Vamos analisar o que é uma aplicação de IA e como ela é criada. Isso pode nos mostrar duas coisas interessantes. Primeiro, pode destacar onde agentes mal-intencionados podem tratá-la como um carro roubado, levá-la a um desmanche digital e vendê-la em peças. Segundo, pode mostrar que, onde houver pontos fracos no processo, se forem tratados corretamente, podemos encontrar oportunidades de monetização. Também podemos ver que, com a Web3, tanto a proteção quanto a monetização de fluxos de IA são possíveis. Aliás, plataformas como o iExec já começam a mostrar resultados promissores nessa área.

Pipeline de IA sob ameaça

O primeiro passo para proteger esses fluxos de IA é entender onde eles são mais vulneráveis ​​e, infelizmente, existem vários pontos que podem ser atacados.  

Tudo começa com os dados. Ter os dados certos para treinar uma ferramenta de IA é absolutamente crucial e, muitas vezes, exige recursos consideráveis ​​para obtê-los. Uma equipe precisa coletá-los internamente, abrangendo uma ampla gama de entradas, ou comprá-los de um fornecedor terceirizado. Em ambos os casos, os dados em si são extremamente valiosos, e a capacidade de visualizá-los também permite obter insights importantes sobre como a plataforma usará sua IA, como a arquitetura de IA está estruturada e como a IA poderá se comportar. Todas essas são grandes vantagens competitivas, e o fato de terceiros possuírem esses insights representa um perigo para a equipe que os desenvolve. Os dados precisam ser protegidos a todo custo.

As ameaças não terminam aí, no entanto. Depois que uma equipe coleta os dados corretos, ela precisa construir um modelo de IA que os utilize e gere valor. Esse modelo deve ser construído, treinado e testado com os dados. Trata-se de um processo iterativo que a equipe realiza para aprender e aprimorar o modelo final. Esse processo exige poder de processamento e mão de obra consideráveis, e a última coisa que a equipe deseja é que alguém se aproprie indevidamente desse trabalho. Contudo, se uma equipe terceirizar esse trabalho para um fornecedor que não seja totalmente confiável (e esses modelos geralmente exigem enormes recursos de processamento), esse fornecedor poderá facilmente copiar o modelo, a inferência ou os resultados do treinamento. Esse é o verdadeiro valor do desenvolvimento do projeto de IA e arruinaria o valor único que a equipe oferece aos seus clientes. Por fim, se uma equipe estiver trabalhando com um fornecedor, este poderá se apropriar indevidamente dos resultados de uma consulta do cliente. Conhecer essas informações pode permitir que o aproveitador não só roube clientes, mas também aprenda mais sobre o que os clientes estão solicitando (e pelo que estão dispostos a pagar). Essa é mais uma vantagem perdida se esse conhecimento for comprometido.

Protegendo o oleoduto

Como mencionado anteriormente, a Web3 tem muito a oferecer a um pipeline de IA ameaçado. Embora possa não parecer à primeira vista, a Web3 e a IA podem trabalhar em conjunto de forma bastante eficaz. A chave está nos TEEs (Ambientes de Execução Confiáveis), que operam em um espaço descentralizado, e é por isso que plataformas como o iExec são líderes nessa área. Os dados e o modelo podem ser criptografados para evitar exame, mas, ao usar um TEE em um ambiente Web3, o modelo pode ser operado na blockchain e de forma transparente para seu proprietário, sem que ninguém, incluindo o provedor de processamento, possa vê-lo. Uma vez que os resultados de uma consulta a um modelo de IA também sejam criptografados, somente o cliente que pagou pela consulta (e o proprietário do modelo) poderá se beneficiar.

A plataforma iExec possui diversos casos de uso que demonstram o funcionamento desse processo, sendo um dos mais simples a demonstração de como um gerador de imagens por IA pode ser completamente protegido. Atualmente, isso não ocorre com nenhum dos grandes geradores de imagens por IA, visto que grande parte das informações está disponível para terceiros. Mesmo que você criasse seu próprio gerador de imagens por IA, a plataforma que executasse o modelo teria uma vantagem significativa, pois poderia visualizar os dados, o modelo e as entradas e saídas. Não seria difícil para o fornecedor copiar o trabalho e criar o seu próprio. Se hospedado em uma plataforma segura, um gerador de imagens por IA poderia ser bem protegido. Este caso de uso demonstra como esse tipo de produto protege as consultas de entrada do usuário por meio de um Ambiente de Execução Transiente (TEE), que não pode ser acessado.  

Outras funcionalidades podem ajudar a otimizar e monetizar o processo. O recurso DataProtector foi projetado para encapsular os dados como um ativo digital, protegendo-os contra visualização outracpor terceiros não autorizados e permitindo sua monetização, se desejado. Para a criação e o lançamento do aplicativo, o iApp Generator utiliza o pipeline protegido e o converte facilmente em um aplicativo funcional, tudo dentro da segurança do TEE. Para aumentar a capacidade de processamento, empresas como a iExec oferecem o uso de GPUs de alto desempenho, como o Intel TDX, permitindo que os usuários operem as GPUs dentro do TEE. Para comunicações críticas durante o desenvolvimento e posteriormente, os usuários podem utilizar uma ferramenta especializada, o Web3Mail, que permite a comunicação totalmente protegida entre os titulares de contas Ethereum (mesmo sem o conhecimento de seus endereços de e-mail). Isso garante a proteção completa do pipeline e das comunicações relacionadas a ele. 

Utilizando todas essas ferramentas em conjunto, o TEE processa a geração de imagens por IA, e o resultado é criptografado, mas também armazenado em uma rede descentralizada, o que garante total segurança ao usuário final. Isso cria um produto não apenas seguro, mas também inviolável e resistente à censura, abrangendo uma grande variedade de ameaças.  

A IA confiável vai além da segurança de dados. Os modelos precisam ser à prova de adulteração.https://t.co/87iSNFYMMC

— iExec RLC (@iEx_ec) 18 de abril de 2025

Olhando para o futuro

Qual o resultado de tudo isso? Se bem protegidos por meio de uma infraestrutura Web3 e ambientes de teste (TEEs) bem construídos, os pipelines de IA podem ser protegidos em todas as etapas. Isso é muito importante porque permite a monetização em cada etapa, sem a ameaça de roubo de valor. Uma equipe pode monetizar os próprios dados, o modelo, o processamento do algoritmo ou os resultados. Isso cria diversas opções, e o faz em um ambiente que por muito tempo foi considerado inseguro para projetos de IA fáceis de roubar. Demonstra que equipes de todos os tamanhos podem desenvolver IA sem precisar possuir todos os dados, os recursos de processamento para desenvolvimento e a plataforma para hospedar o produto final. O pipeline de IA fica seguro, protegendo aqueles que o possuem e que investiram tanto esforço na criação desses produtos inovadores.