Мы поспешили построить будущее ИИ — теперь мы должны его защитить

Цифровые платформы не понаслышке знакомы с угрозами безопасности со всех сторон. У нас есть брандмауэры, методы защиты от фишинга, антивирусное ПО и многое другое. Всегда сложно оставаться на шаг впереди, но сама игра имеет установленные правила и нормы. Мы знаем, чего ожидать, и даже при возникновении инцидента обычно можно выявить предсказуемую причину после проведения расследования.

Проблема в том, что наша технологическая эволюция развивается так стремительно, что мы создаём новые приложения, новые сценарии использования и даже новую инфраструктуру гораздо быстрее, чем успеваем остановиться и проанализировать возможные уязвимости. Самый распространённый и болезненный способ обнаружить уязвимость — когда злоумышленник использует её. Это не правильный подход к бизнесу, но из-за быстро меняющихся методов сбора, анализа и использования данных мы просто не можем позволить себе ждать атаки, чтобы узнать о своих слабых местах.

Это особенно актуально для приложений на базе ИИ. Проще говоря, это одни из самых революционных и мощных технологий, когда-либо созданных. В то же время их легче всего манипулировать, похищать и извлекать из них выгоду, что может разрушить целую бизнес-модель за один день. Почему так происходит?

Давайте разберём, что такое приложение на базе ИИ и как оно создаётся. Это позволяет выявить две интересные вещи. Во-первых, это может показать, где недобросовестные лица могут использовать его как угнанный автомобиль, отвезти в цифровую разборку и продать по частям. Во-вторых, это демонстрирует, что там, где есть слабые места в процессе, при правильном подходе можно найти пути монетизации. Мы также видим, что с Web3 возможна как защита, так и монетизация конвейеров ИИ. Более того, платформы, такие как iExec, уже начинают проявлять потенциал в этой области.

Под угрозой конвейер обработки данных ИИ

Первый шаг к защите конвейеров ИИ — понять, где они наиболее уязвимы, и, к сожалению, существует множество точек, подверженных атакам.  

Всё начинается с данных. Возможность получить правильные данные, необходимые для обучения инструмента ИИ, абсолютно критична и часто требует значительных ресурсов. Команда либо собирает их самостоятельно из широкого спектра источников, либо покупает у стороннего брокера. В любом случае сами данные обладают огромной ценностью: возможность увидеть их позволяет получить ключевые инсайты о том, как платформа будет использовать свой ИИ, как структурирована архитектура ИИ и как он может работать. Всё это — серьёзные конкурентные преимущества, и попадание такой информации в руки другой стороны опасно для команды, разрабатывающей систему. Данные необходимо защищать любой ценой.

Однако угрозы на этом не заканчиваются. После того как команда соберёт необходимые данные, ей необходимо создать ИИ-модель, которая будет их использовать и приносить пользу. Эту модель нужно разработать, затем обучить и протестировать с использованием данных. Это итеративный процесс, который команда проводит для обучения и улучшения итоговой модели. На реализацию этого процесса требуются значительные вычислительные мощности и трудозатраты, и последнее, чего хочет команда, — чтобы кто-то другой присвоил результаты этой работы. Однако если команда передаст эту работу подрядчику, которому нельзя полностью доверять (а такие модели часто требуют огромных ресурсов для обеспечения вычислительной мощности), этот подрядчик может легко скопировать саму модель, результаты инференса или обучающие данные. Именно в разработке проекта ИИ заключается его реальная ценность, и её утрата разрушит уникальное ценностное предложение команды для клиентов. Наконец, если команда работает с подрядчиком, тот может присвоить результаты запросов клиента. Знание такой информации позволит «переманщику» украсть клиентов, а также узнать больше о том, что именно запрашивают клиенты (и сколько они готовы за это платить). Это ещё одно преимущество, которое будет потеряно, если эти знания будут скомпрометированы.

Защита конвейера данных

Как упоминалось выше, Web3 может многое предложить конвейеру ИИ, находящемуся под угрозой. Хотя поначалу это может показаться неочевидным, Web3 и ИИ могут отлично работать в тандеме. Ключ кроется в ТЭО (доверенных средах выполнения), функционирующих в децентрализованном пространстве, именно поэтому такие платформы, как iExec, лидируют в этой области. Данные и модель могут быть зашифрованы от посторонних взглядов, но благодаря использованию ТЭО в среде Web3 модель может выполняться в блокчейне прозрачно для её владельца так, что никто, включая провайдера обработки, не сможет её увидеть. Как только результаты запроса к модели ИИ также будут зашифрованы, воспользоваться ими смогут только клиент, оплативший запрос (и владелец модели).

Платформа iExec имеет множество сценариев использования, демонстрирующих, как работает этот процесс, и один из самых простых показывает, как генератор изображений на базе ИИ может быть полностью защищен. В настоящее время это не так ни для одного из крупных генераторов изображений на базе ИИ, поскольку значительная часть информации доступна другим. Даже если вы создадите собственный генератор изображений на базе ИИ, платформа, на которой работает модель, может иметь существенное преимущество, поскольку она может видеть данные, модель, а также входные и выходные данные. Поставщику потребуется совсем немного усилий, чтобы фактически скопировать работу и создать свою собственную. Если размещено на защищенной платформе, генератор изображений на базе ИИ может быть хорошо защищен. Этот сценарий использования показывает, как такой тип продукта защищает пользовательские запросы через доверенную среду исполнения (TEE), к которой нельзя получить доступ.

Дополнительные функции помогают оптимизировать и монетизировать процесс. Функция DataProtector предназначена для упаковки данных в виде цифрового актива, чтобы защитить их от просмотра или извлечения неавторизованными лицами, а также позволить при необходимости монетизировать этот актив. Что касается создания/запуска приложения с использованием кейса, генератор iApp преобразует защищённый конвейер в функциональное приложение, упрощая этот процесс и обеспечивая безопасность внутри доверенной среды выполнения (TEE). Для масштабирования более высоких уровней обработки компании, такие как iExec, предлагают мощное использование GPU на базе Intel TDX, позволяя пользователям работать с GPU внутри TEE. Для критически важной коммуникации как в процессе разработки, так и за его пределами, пользователи могут использовать специализированный инструмент Web3Mail, обеспечивающий полностью защищённую связь между держателями аккаунтов Ethereum (даже без знания их адресов электронной почты). Это гарантирует полную защиту как самого конвейера, так и всей связанной с ним коммуникации. 

Используя все эти инструменты в комплексе, TEE обрабатывает генерацию изображений с помощью ИИ, а результат шифруется и одновременно хранится в децентрализованной сети, что полностью защищает итоговый продукт исключительно для пользователя. Это создаёт продукт, который не только безопасен, но и устойчив к несанкционированным изменениям и цензуре, что покрывает множество угроз.  

Доверенный ИИ выходит за рамки защиты данных. Модели должны быть защищены от несанкционированных изменений. https://t.co/87iSNFYMMC

— iExec RLC (@iEx_ec) 16 апреля 18, 2025

Взгляд в будущее

Каков итог всего этого? Если использовать защищённую инфраструктуру Web3 и качественные TEE, конвейеры ИИ можно защитить на каждом этапе. Это имеет огромное значение, поскольку позволяет монетизировать каждый этап без угрозы со стороны «похитителей», крадущих ценность. Команда может монетизировать сами данные, модель, обработку алгоритма или выходные результаты. Это открывает множество различных возможностей и делает это в среде, которая долгое время считалась небезопасной для лёгких в краже проектов ИИ. Это демонстрирует, что команды любого размера могут разрабатывать ИИ, не владея всеми данными, вычислительными ресурсами для разработки и платформой для размещения выпущенного продукта. Конвейер ИИ безопасен, защищая тех, кто им владеет и кто вложил столько усилий в создание этих инновационных продуктов.