디지털 플랫폼은 다양한 출처의 보안 위협에 익숙하다. 우리는 방화벽, 피싱 방지 기술, 바이러스 보호 등을 갖추고 있다. 앞서 나가는 것은 항상 도전이지만, 게임 자체에는 확립된 규칙과 규범이 있다. 우리는 무엇을 기대해야 하는지 알고 있으며, 심지어 침해가 발생해도 조사가 완료되면 보통 예측 가능한 이유가 있다.
문제는 우리의 기술 진화가 너무 빠르게 진행되어, 약점이 어디에 있을지 brainstorming할 시간을 내기 전에 새로운 애플리케이션, 새로운 사용 사례, 심지어 새로운 인프라를 훨씬 빠르게 개발하고 있다는 점이다. 약점을 찾는 가장 일반적이고 고통스러운 방법은 나쁜 행위자가 이를 악용할 때이다. 이는 올바른 비즈니스 방식이 아니지만, 우리가 데이터를 수집, 분석, 활용하는 방식이 빠르게 진화하기 때문에 약점을 배우기 위해 공격을 기다릴 여유가 없다.
이는 AI 애플리케이션에서 특히 더 사실이다. 간단히 말해, 이들은 만들어진 기술 중 가장 혁명적이고 강력한 일부이다. 또한 조작, 도난, 가치 추출이 가장 쉬운 기술이기도 하며, 이는 하루 만에 전체 비즈니스 모델을 파탄낼 수 있다. 왜 그럴까?
AI 애플리케이션이 무엇이며 어떻게 만들어지는지 살펴보자. 이를 통해 두 가지 흥미로운 사실을 알 수 있다. 첫째, 나쁜 행위자들이 이를 도난 차량처럼 취급하여 디지털 도색 공장으로 가져가 부품으로 판매할 수 있는 지점을 강조할 수 있다. 둘째, 프로세스에 약점이 있을 때 올바르게 처리하면 수익화 경로를 찾을 수 있음을 보여준다. 또한 Web3를 통해 AI 파이프라인을 보호하고 수익화하는 것이 가능하다는 것도 알 수 있다. 실제로 iExec과 같은 플랫폼들은 이미 이 분야에서 가능성을 보이고 있다.
위협받는 AI 파이프라인
이러한 AI 파이프라인을 보호하기 위한 첫 번째 단계는 가장 취약한 지점을 이해하는 것이며, 불행히도 공격받을 수 있는 지점이 여러 곳 있다.
이는 데이터에서 시작된다. AI 도구를 훈련하는 데 필요한 올바른 데이터를 확보하는 것은 절대적으로 중요하며, 종종 이를 얻기 위해 상당한 자원이 필요하다. 팀이 광범위한 입력에 걸쳐 직접 수집하거나, 제3자 브로커로부터 데이터를 구매해야 한다. 어느 경우든 데이터 자체는 매우 가치 있으며, 데이터를 볼 수 있는 플랫폼이 AI를 어떻게 사용할지, AI 아키텍처가 어떻게 구성되어 있는지, AI가 어떻게 수행될지에 대한 핵심 통찰력을 얻을 수 있다. 이러한 모든 것은 주요 경쟁 우위이며, 다른 당사자가 이러한 통찰력을 갖는 것은 이를 구축하는 팀에게 위험하다. 데이터는 어떤 대가를 치르더라도 보호되어야 한다.
그러나 위협은 거기서 끝나지 않는다. 팀이 올바른 데이터를 수집한 후, 이를 사용하여 가치를 생성할 AI 모델을 구축해야 한다. 이 모델은 구축된 후 데이터로 훈련 및 테스트되어야 한다. 이는 팀이 최종 모델을 학습하고 개선하기 위해 수행하는 반복적인 프로세스이다. 이 프로세스는 상당한 처리 능력과 노력이 필요하며, 팀이 원하지 않는 것은 누군가가 이 작업을 표적 삼는 것이다. 그러나 팀이 완전히 신뢰할 수 없는 제공자에게 이 작업을 아웃소싱하는 경우(이러한 모델은 종종 처리 능력을 제공하기 위해 거대한 자원이 필요함), 제공자는 모델, 추론 또는 훈련 결과를 쉽게 복사할 수 있다. 이는 AI 프로젝트 개발의 실제 가치이며, 팀의 고유한 고객 가치를 파괴할 것이다. 마지막으로, 팀이 제공자와 협력할 경우, 제공자는 고객 쿼리의 결과를 표적 삼을 수 있다. 이러한 정보를 알면 표적 삼는 자가 고객을 훔칠 수 있을 뿐만 아니라 고객이 무엇을 요청하는지(그리고 무엇을 지불할 의사가 있는지)에 대해 더 많이 배울 수 있다. 이는 그 지식이 침해될 경우 또 다른 우위가 사라지는 것이다.
파이프라인 보호
위에서 언급했듯이, Web3는 위협받는 AI 파이프라인에 많은 것을 제공할 수 있다. 처음에는 그렇지 않아 보일 수 있지만, Web3와 AI는 매우 잘 협력할 수 있다. 핵심은 TEE(신뢰 실행 환경)를 사용하여 분산된 공간에서 작동하는 것이며, 이것이 iExec과 같은 플랫폼들이 이 분야에서 선도적인 이유이다. 데이터와 모델은 모두 감시로부터 암호화될 수 있지만, Web3 환경 내의 TEE를 사용하면 모델이 온체인에서 투명하게 소유자에게 운영될 수 있으며, 처리 제공자를 포함한 그 누구도 이를 볼 수 없다. 쿼리 결과가 암호화되면 쿼리에 지불한 고객(및 모델 소유자)만 혜택을 볼 수 있다.
iExec 플랫폼은 이 프로세스가 어떻게 작동하는지를 보여주는 여러 사용 사례를 가지고 있으며, 그중 가장 간단한 것은 AI 이미지 생성기가 완전히 보호되는 방법을 보여준다. 현재 대형 AI 이미지 생성기 중 어느 것도 이러한 보호를 제공하지 않으며, 많은 정보가 타인에게 공개되어 있다. 심지어 자체 AI 이미지 생성기를 구축하더라도 모델을 실행하는 플랫폼은 데이터, 모델, 입력 및 출력을 볼 수 있으므로 상당한 우위를 점할 수 있다. 제공자가 작업을 복사하여 자체적으로 만드는 데는 그리 오래 걸리지 않을 것이다. 안전한 플랫폼에 호스팅된다면 AI 이미지 생성기는 잘 보호될 수 있다. 이 사용 사례는 TEE를 통해 사용자 입력 쿼리가 어떻게 보호되는지(접근 불가)를 보여준다.
다른 기능은 프로세스를 간소화하고 수익화하는 데 도움이 될 수 있다. DataProtector 기능은 데이터를 디지털 자산으로 감싸서 무단 당사자에 의한 조회나 추출로부터 보호하고, 디지털 자산으로서 원할 경우 수익화를 가능하게 한다. 사용 사례 앱 구축/출시 측면에서 iApp Generator는 보호된 파이프라인을 TEE의 보안 내에서 기능성 앱으로 더 쉽게 변환한다. 더 높은 수준의 처리 능력을 확보하기 위해, iExec과 같은 기업은 Intel TDX 형태의 강력한 GPU 사용을 제공하여 사용자가 TEE 내에서 GPU를 운영할 수 있게 한다. 개발 과정 중 및 그 이후의 중요한 커뮤니케이션을 위해, 사용자는 이더리움 계정 소유자 간(이메일 주소를 알지 못하더라도) 완전히 보호된 커뮤니케이션을 허용하는 특수 Web3Mail 도구를 사용할 수 있다. 이는 파이프라인 자체와 그 주변의 커뮤니케이션이 모두 완전히 보호되도록 보장한다.
이러한 모든 도구를 함께 사용하여 TEE는 AI 이미지 생성을 처리하며, 결과는 암호화되지만 동시에 분산 네트워크에 저장되어 사용자에게 최종 결과를 완전히 보안한다. 이는 제품이 안전할 뿐만 아니라 변조 방지 및 검열 저항성을 갖추어 많은 위협을 커버한다는 것을 의미한다.
신뢰할 수 있는 AI는 데이터 보안 그 이상이다. 모델은 변조 방지되어야 한다.https://t.co/87iSNFYMMC
— iExec RLC (@iEx_ec) 4 월 18, 2025
향후 전망
이 모든 것의 결과는 무엇인가? Web3 인프라와 잘 구축된 TEE를 사용하여 잘 보호된다면, AI 파이프라인은 모든 단계에서 보안될 수 있다. 이는 도난꾼이 가치를 훔치는 위협 없이 각 단계에서 수익화를 가능하게 하기 때문에 큰 일이다. 팀은 데이터 자체, 모델, 알고리즘 처리 또는 출력을 수익화할 수 있다. 이는 많은 다른 옵션을 구축하며, 오랫동안 쉽게 도난당할 수 있는 AI 프로젝트에게 안전하지 않다고 여겨져 온 환경에서 이를 수행한다. 이는 대규모 및 소규모 팀이 모든 데이터, 개발을 위한 처리 자원, 그리고 출시된 제품을 호스팅할 플랫폼을 소유하지 않고도 AI를 개발할 수 있음을 보여준다. AI 파이프라인은 안전하며, 이를 소유하고 이러한 혁신적인 제품을 구축하는 데 많은 노력을 기울인 사람들을 보호한다.
면책 조항. 제공된 정보는 금융 자문을 구성하지 않으며, 구성하려는 의도도 없습니다. 대신 모든 정보, 콘텐츠 및 자료는 일반적인 정보 제공 목적으로만 제공됩니다. 정보가 최신 정보를 반영하지 못할 수 있으므로 독자는 자체적인 실사 작업을 수행하고 자신의 행동에 대한 책임을 져야 합니다. 다른 제 3 자 웹사이트로의 링크는 독자, 사용자 또는 브라우저의 편의를 위한 것이며, Cryptopolitan 과 그 회원들은 제 3 자 사이트의 콘텐츠를 추천하거나 승인하지 않습니다.
크립토폴리탄 미디어
글로벌 산업 파트너 네트워크에서 선별된 인사이트와 주요 업데이트를 위한 전용 데스크입니다.
