Nos Apressamos a Construir o Futuro da IA – Agora Temos que Defendê-lo

As plataformas digitais não são estranhas a ameaças de segurança de todas as formas de fontes. Temos firewalls, técnicas anti-phishing, proteção contra vírus e muito mais. É sempre um desafio se manter à frente do jogo, mas o jogo em si tem regras e normas estabelecidas. Sabemos o que esperar, e mesmo quando há uma violação, geralmente há uma razão previsível após a condução da investigação.

O problema é que a evolução da nossa tecnologia está se movendo tão rapidamente que estamos desenvolvendo novos aplicativos, novos casos de uso e até nova infraestrutura muito mais rápido do que podemos parar e debater onde as fraquezas podem estar. A maneira mais comum e dolorosa de encontrar uma fraqueza é quando um ator mal-intencionado a explora. Esta não é a maneira certa de fazer negócios, mas, devido à maneira como coletamos, analisamos e utilizamos os dados de forma rapidamente evolutiva, simplesmente não podemos esperar por um ataque para aprender onde nossas fraquezas podem estar.

Isso é especialmente verdadeiro com aplicações de IA. Simplesmente dito, estas são algumas das peças de tecnologia mais revolucionárias e potentes já criadas. Elas também são algumas das mais fáceis de manipular, roubar e extrair valor, o que pode arruinar um modelo de negócios inteiro em um único dia. Por que isso acontece?

Vamos analisar o que é uma aplicação de IA e como ela é criada. Isso pode nos mostrar duas coisas interessantes. Primeiro, pode destacar onde atores mal-intencionados podem tratá-la como um carro roubado, levá-la a um 'chop shop' digital e vendê-la por partes. Segundo, pode mostrar que, onde há pontos fracos no processo, se forem tratados corretamente, podemos encontrar vias de monetização. Também podemos ver que, com a Web3, é possível proteger e monetizar os pipelines de IA. De fato, plataformas como iExec já estão começando a mostrar promessa nessa área.

Pipeline de IA Sob Ameaça

O primeiro passo para proteger esses pipelines de IA é entender onde eles são mais vulneráveis e, infelizmente, há vários pontos que podem ser atacados.  

Começa com os dados. Ser capaz de ter os dados certos necessários para treinar uma ferramenta de IA é absolutamente crítico e, muitas vezes, leva recursos significativos para obtê-los. Ou uma equipe precisa coletá-los eles mesmos em uma ampla gama de entradas, ou precisam comprar os dados de um corretor de terceiros. Em qualquer caso, os dados em si são extremamente valiosos, e ser capaz de ver os dados também pode obter insights-chave sobre como a plataforma usará sua IA, como a arquitetura da IA é estruturada e como a IA pode se sair. Todos esses são grandes vantagens competitivas, e para outra parte ter essa visão é perigoso para a equipe que a constrói. Os dados simplesmente devem ser protegidos, a qualquer custo.

As ameaças não terminam aí, no entanto. Depois que uma equipe coleta os dados certos, eles precisam construir um modelo de IA que os usará e gerará valor. Este modelo deve ser construído, então treinado e testado com os dados. Este é um processo iterativo que a equipe conduzirá para aprender e melhorar o modelo final. Este processo leva poder de processamento significativo e trabalho, e a última coisa que a equipe quer é que alguém outro se aproveite deste trabalho. No entanto, se uma equipe terceirizar esse trabalho para um provedor que não seja completamente confiável (e esses modelos muitas vezes exigem recursos enormes para fornecer poder de processamento), esse provedor poderia facilmente copiar o modelo, a inferência ou os resultados do treinamento. Este é o verdadeiro valor do desenvolvimento do projeto de IA e arruinaria o valor único da equipe para seus clientes. Finalmente, se uma equipe estiver trabalhando com um provedor, esse provedor poderia se aproveitar dos resultados de uma consulta de um cliente. Saber dessa informação permitiria que o aproveitador roubasse clientes, mas também aprendesse mais sobre o que os clientes estão solicitando (e pelo que estão dispostos a pagar). Esta é mais uma vantagem perdida se esse conhecimento for comprometido.

Protegendo o Pipeline

Como mencionado acima, a Web3 tem muito a oferecer a um pipeline de IA sob ameaça. Embora possa não parecer à primeira vista, a Web3 e a IA podem trabalhar bem juntas. A chave está nos TEEs (Ambientes de Execução Confiáveis), operando em um espaço descentralizado, e é por isso que plataformas como iExec estão liderando nessa área. Os dados e o modelo podem ser criptografados contra inspeção, mas, ao usar um TEE dentro de um ambiente Web3, o modelo pode ser operado on-chain e de forma transparente para seu proprietário, sem que ninguém, incluindo o provedor de processamento, possa vê-lo. Uma vez que os resultados de uma consulta a um modelo de IA também são criptografados, apenas o cliente que pagou pela consulta (e o proprietário do modelo) pode se beneficiar.

A plataforma iExec tem vários casos de uso mostrando como esse processo funciona, com um dos mais simples demonstrando como um gerador de imagens de IA poderia ser completamente protegido. Isso atualmente não é o caso com nenhum dos grandes geradores de imagens de IA, com muita informação disponível para outros. Mesmo que você construísse seu próprio gerador de imagens de IA, qualquer plataforma que estivesse executando o modelo poderia ter uma vantagem significativa, pois poderia ver os dados, o modelo e as entradas e saídas. Não seria necessário muito para o provedor essencialmente copiar o trabalho e criar o seu próprio. Se hospedado em uma plataforma segura, um gerador de imagens de IA poderia ser bem protegido. Este caso de uso mostra como esse tipo de produto protege as consultas de entrada do usuário por meio de um TEE, que não pode ser acessado.

Outros recursos podem ajudar a simplificar e monetizar o processo. O recurso DataProtector foi projetado para envolver os dados como um ativo digital, a fim de protegê-los da visualização ou extração por uma parte não autorizada e, como ativo digital, permitir que sejam monetizados, se desejado. Em termos de construir/lançar o aplicativo de caso de uso, o iApp Generator pegará o pipeline protegido e o converterá mais facilmente em um aplicativo funcional, tudo dentro da segurança do TEE. Em termos de aumentar níveis mais altos de processamento, empresas como a iExec oferecem uso poderoso de GPU na forma de Intel TDX, permitindo que os usuários operem as GPUs dentro do TEE. Para comunicação crítica tanto durante o processo de desenvolvimento quanto muito além dele, os usuários podem usar uma ferramenta especializada Web3Mail que permite comunicação totalmente protegida entre titulares de contas Ethereum (mesmo sem conhecer seu endereço de e-mail). Isso garante que tanto o pipeline em si, quanto a comunicação em torno dele, estejam totalmente protegidos. 

Usando todas essas ferramentas em conjunto, o TEE processa a geração de imagens de IA, e o resultado é criptografado, mas também armazenado em uma rede descentralizada, o que protege totalmente o resultado final apenas para o usuário. Isso cria um produto que não é apenas seguro, mas também à prova de adulteração e resistente à censura, o que cobre uma grande quantidade de ameaças.  

IA confiável vai além da segurança de dados. Os modelos devem ser à prova de adulteração.https://t.co/87iSNFYMMC

— iExec RLC (@iEx_ec) 18 de abril de 2025

Perspectivas Futuras

Qual é o resultado de tudo isso? Se bem protegido usando uma infraestrutura Web3 e TEEs bem construídos, os pipelines de IA podem ser protegidos em cada etapa. Isso é um grande negócio porque permite a monetização em cada etapa sem a ameaça de aproveitadores roubando o valor. Uma equipe poderia monetizar os dados em si, o modelo, o processamento do algoritmo ou as saídas. Isso cria muitas opções diferentes e o faz em um ambiente que há muito tempo foi considerado inseguro para projetos de IA fáceis de roubar. Isso mostra que equipes grandes e pequenas podem desenvolver IA sem precisar possuir todos os dados, recursos de processamento para desenvolvimento e a plataforma para hospedar o produto lançado. O pipeline de IA está seguro, protegendo aqueles que o possuem e que dedicaram tanto esforço para construir esses produtos inovadores.