디지털 플랫폼은 온갖 종류의 위협으로부터 안전에 대한 위협에 노출되어 있습니다. 방화벽, 피싱 방지 기술, 바이러스 백신 등 다양한 보안 대책이 마련되어 있죠. 항상 앞서 나가는 것은 어려운 일이지만, 디지털 플랫폼 자체에는 정해진 규칙과 기준이 있습니다. 어떤 상황이 발생할지 예측할 수 있고, 설령 침해 사고가 발생하더라도 조사가 진행되면 대개 원인을 파악할 수 있습니다.
문제는 기술 발전 속도가 너무 빨라서 새로운 애플리케이션, 새로운 사용 사례, 심지어 새로운 인프라까지 개발하는 속도가 취약점을 파악하고 고민할 시간조차 없다는 것입니다. 취약점을 발견하는 가장 흔하고 고통스러운 방법은 악의적인 공격자가 이를 악용하는 것입니다. 이는 올바른 비즈니스 방식이 아니지만, 데이터를 수집, 분석, 활용하는 방식이 빠르게 진화하는 상황에서 공격을 기다려 취약점을 파악할 여유가 없습니다.
특히 AI 애플리케이션의 경우 더욱 그렇습니다. 간단히 말해, AI 애플리케이션은 지금까지 만들어진 기술 중 가장 혁신적이고 강력한 기술 중 일부입니다. 하지만 동시에 조작하고, 훔치고, 가치를 빼trac도 가장 쉬운 기술이기도 해서, 단 하루 만에 전체 비즈니스 모델을 망가뜨릴 수도 있습니다. 왜 그럴까요?
AI 애플리케이션이 무엇이고 어떻게 만들어지는지 자세히 살펴보겠습니다. 이를 통해 두 가지 흥미로운 점을 알 수 있습니다. 첫째, 악의적인 행위자가 AI를 마치 도난 차량처럼 취급하여 디지털 해체 공장에 가져가 부품별로 팔아넘길 수 있는 지점을 파악할 수 있습니다. 둘째, 프로세스상의 취약점을 적절히 보완한다면 수익 창출 기회를 발견할 수 있습니다. 또한 웹3 기술을 활용하면 AI 파이프라인을 보호하고 수익을 창출하는 것이 모두 가능하다는 것을 알 수 있습니다. 실제로 iExec 이미 이 분야에서 가능성을 보여주고 있습니다.
AI 파이프라인이 위협받고 있다
이러한 AI 파이프라인을 보호하는 첫 번째 단계는 가장 취약한 부분을 파악하는 것이며, 안타깝게도 공격받을 수 있는 지점은 여러 곳이 있습니다.
모든 것은 데이터에서 시작됩니다. AI 도구를 학습시키는 데 필요한 정확한 데이터를 확보하는 것은 매우 중요하며, 이를 얻기 위해서는 상당한 자원이 필요합니다. 팀에서 직접 다양한 입력값을 기반으로 데이터를 수집하거나, 제3자 브로커로부터 데이터를 구매해야 합니다. 어느 경우든 데이터 자체는 매우 귀중하며, 데이터를 분석함으로써 플랫폼이 AI를 어떻게 활용할지, AI 아키텍처는 어떻게 구성될지, 그리고 AI의 성능은 어떨지 등에 대한 핵심적인 통찰력을 얻을 수 있습니다. 이러한 모든 요소는 중요한 경쟁 우위 요소이며, 제3자가 이러한 통찰력을 확보하는 것은 AI 개발팀에게 매우 위험한 일입니다. 따라서 데이터는 어떤 대가를 치르더라도 반드시 보호해야 합니다.
하지만 위협은 여기서 끝나지 않습니다. 팀이 적절한 데이터를 수집한 후에는 이를 활용하여 가치를 창출할 AI 모델을 구축해야 합니다. 이 모델은 구축 후 데이터로 학습 및 테스트되어야 합니다. 이는 팀이 최종 모델을 학습하고 개선하기 위해 반복적으로 수행하는 과정입니다. 이 과정에는 상당한 처리 능력과 인력이 필요하며, 팀은 다른 사람이 이 작업을 가로채는 것을 절대 원하지 않습니다. 그러나 팀이 이 작업을 완전히 신뢰할 수 없는 공급업체에 아웃소싱할 경우(이러한 모델은 종종 막대한 처리 능력을 필요로 합니다), 해당 공급업체는 모델, 추론 또는 학습 결과를 쉽게 복제할 수 있습니다. 이것이 AI 프로젝트 개발의 진정한 가치이며, 고객에게 제공하는 팀의 고유한 가치를 무너뜨릴 수 있습니다. 또한, 팀이 공급업체와 협력하는 경우, 공급업체가 고객 문의 결과를 가로챌 수도 있습니다. 이러한 정보를 알게 된 공급업체는 고객을 빼앗을 뿐만 아니라 고객이 무엇을 요구하고 무엇에 기꺼이 비용을 지불할 의향이 있는지에 대한 더 많은 정보를 얻을 수 있습니다. 이러한 정보가 유출된다면 또 다른 이점을 잃게 되는 것입니다.
송유관 보호
앞서 언급했듯이, 웹3는 위협받는 AI 파이프라인에 많은 도움을 줄 수 있습니다. 처음에는 그렇게 보이지 않을 수도 있지만, 웹3와 AI는 매우 효과적으로 협력할 수 있습니다. 핵심은 탈중앙화된 환경에서 작동하는 TEE(신뢰할 수 있는 실행 환경)에 있으며, iExec 이 분야를 선도하는 이유도 바로 여기에 있습니다. 데이터와 모델 모두 암호화되어 접근이 불가능하지만, 웹3 환경 내에서 TEE를 사용하면 모델은 온체인에서 투명하게 처리되어 소유자만 확인할 수 있으며, 처리 제공자를 포함한 누구도 모델을 볼 수 없습니다. AI 모델에 대한 쿼리 결과 또한 암호화되므로, 쿼리 비용을 지불한 고객(및 모델 소유자)만이 결과를 활용할 수 있습니다.
iExec 플랫폼은 이러한 프로세스가 어떻게 작동하는지 보여주는 다양한 사용 사례를 제공하며, 그중 가장 간단한 예는 AI 이미지 생성기를 완벽하게 보호하는 방법을 보여줍니다. 현재 시중에 나와 있는 대형 AI 이미지 생성기들은 대부분 정보가 외부에 노출되어 있어 이러한 보안이 확보되지 않은 상태입니다. 설령 직접 AI 이미지 생성기를 개발하더라도, 해당 모델을 실행하는 플랫폼은 데이터, 모델, 입력값과 출력값을 모두 확인할 수 있기 때문에 상당한 이점을 가질 수 있습니다. 플랫폼 제공업체가 개발된 결과물을 복제하여 자체 버전을 만드는 것은 어렵지 않습니다. 하지만 보안 플랫폼에 호스팅된다면 AI 이미지 생성기는 효과적으로 보호될 수 있습니다. 이 사용 사례 는 접근이 불가능한 TEE(Trusted Execution Environment)를 통해 사용자 입력 쿼리를 보호하는 방법을 보여줍니다.
다른 기능들은 프로세스를 간소화하고 수익화하는 데 도움이 될 수 있습니다. DataProtector 기능은 데이터를 디지털 자산으로 보호하여 권한이 없는 당사자가 데이터를 보거나trac하는 것을 방지하고, 필요에 따라 수익화할 수 있도록 설계되었습니다. 사용 사례 앱 구축/출시 측면에서 iApp Generator는 보호된 파이프라인을 TEE의 보안 환경 내에서 더욱 쉽게 기능적인 앱으로 변환해 줍니다. 처리 능력을 향상시키기 위해 iExec과 같은 업체는 Intel TDX 형태의 강력한 GPU 사용을 제공하여 사용자가 TEE 내에서 GPU를 활용할 수 있도록 지원합니다. 개발 과정은 물론 개발 이후에도 중요한 커뮤니케이션을 위해 사용자는 Ethereum 계정 소유자 간에 완벽하게 보호된 통신(이메일 주소를 몰라도 가능)을 가능하게 하는 특수 Web3Mail 도구를 사용할 수 있습니다. 이를 통해 파이프라인 자체와 관련 통신 모두 완벽하게 보호됩니다.
TEE는 이러한 모든 도구를 함께 사용하여 AI 이미지 생성을 처리하고, 그 결과는 암호화되어 분산 네트워크에 저장되므로 최종 결과물은 사용자만 접근할 수 있도록 완벽하게 보호됩니다. 이를 통해 보안성이 뛰어날 뿐만 아니라 변조 및 검열에도 강한 제품이 탄생하며, 다양한 위협에 효과적으로 대응할 수 있습니다.
신뢰할 수 있는 AI는 데이터 보안 그 이상을 의미합니다. 모델은 변조 방지 기능을 갖춰야 합니다. https://t.co/87iSNFYMMC
— iExec RLC (@iEx_ec) 2025년 4월 18일
앞으로의 전망
이 모든 것의 결과는 무엇일까요? 웹3 인프라와 잘 구축된 TEE(Test-End Element)를 사용하여 안전하게 보호한다면, AI 파이프라인은 모든 단계에서 보안이 유지될 수 있습니다. 이는 매우 중요한 의미를 지니는데, 데이터 도둑의 위협 없이 각 단계에서 수익 창출이 가능해지기 때문입니다. 개발팀은 데이터 자체, 모델, 알고리즘 처리 과정, 또는 결과물을 통해 수익을 창출할 수 있습니다. 이는 다양한 수익 창출 옵션을 제공하며, 오랫동안 AI 프로젝트가 쉽게 도용될 수 있는 불안정한 환경에서도 이러한 가능성을 열어줍니다. 규모와 관계없이 모든 개발팀이 데이터, 개발에 필요한 처리 자원, 그리고 제품 출시 플랫폼을 모두 소유하지 않고도 AI를 개발할 수 있음을 보여줍니다. AI 파이프라인은 안전하게 보호되며, 이를 소유한 사람들과 혁신적인 제품 개발에 많은 노력을 기울인 사람들을 지켜줍니다.
