Разработчики Ethereum предлагают нулевое знание конфиденциальности для чат-ботов ИИ

Разработчики Ethereum предложили новый способ защиты конфиденциальности людей с помощью чат-ботов ИИ, позволяющий пользователям делать вызовы API без привязки своих запросов к их реальным личностям, при этом продолжая платить поставщикам и наказывать нарушителей.

Сооснователь Ethereum Виталик Бутерин и Фонд Ethereum руководитель направления ИИ Давиде Крапис опубликовали пост в блоге, объясняющий, что пользователи могут взаимодействовать с большими языковыми моделями конфиденциально и предотвращать спам и мошенничество с помощью доказательств с нулевым разглашением.

Разработчики Ethereum строят частный способ оплаты для чат-ботов ИИ

Виталик Бутерин и Давиде Крапис говорят, что чат-боты ИИ вызывают серьезные проблемы конфиденциальности сегодня, потому что пользователи делятся личной и конфиденциальной информацией через вызовы API, которые могут записывать, отслеживать и иногда связывать эти запросы обратно с владельцем.

Разработчики этих чат-ботов говорят, что они больше не могут игнорировать эту проблему, поскольку риск раскрытия личных данных продолжает расти по мере того, как люди используют ИИ каждый день.

Из-за этого Бутерин и Крапис объясняют, что поставщики ИИ могут либо просить пользователей входить в систему с адресом электронной почты или платить кредитной картой, либо использовать блокчейн-платежи для анонимности. 

Если компании остановятся на адресах электронной почты и платежах кредитными картами, потому что они более знакомы, конфиденциальность пользователей будет под угрозой, поскольку каждый запрос чат-бота будет связан с реальной личностью. Это может привести к профилированию, отслеживанию и даже юридическим рискам, если люди предоставят эти журналы в суде.

Для блокчейн-платежей пользователям придется платить в блокчейне за каждый запрос, но процесс медленный и дорогой, и он создает видимую запись каждого сообщения. Конфиденциальность при оплате за запрос снова будет невозможна, потому что история транзакций пользователя будет легко отслеживаться. 

Разработчики Ethereum предлагают новую модель, в которой пользователь один раз вносит средства на смарт-контракт, а затем выполняет тысячи приватных API-запросов. Таким образом, провайдер уверен, что запросы оплачены, а пользователю не нужно каждый раз подтверждать свою личность при взаимодействии с чат-ботом.

Бутерин и Крапис утверждают, что новая модель значительно повысит безопасность пользователей, позволяя технологии развиваться.

Нулевые доказательства (zero-knowledge proofs) предотвращают плохое поведение, не раскрывая личность пользователя

Разработчики Ethereum система будет использовать криптографию с нулевым разглашением (zero-knowledge cryptography) для предотвращения мошенничества и злоупотреблений, поскольку она позволяет пользователю доказать истинность утверждения, не раскрывая свою личность. Виталик Бутерин и Давиде Крапис объясняют, что инструменты с нулевым разглашением помогут честным пользователям сохранять анонимность, одновременно выявляя злоумышленников, пытающихся нарушить правила. 

Новая модель будет использовать инструмент под названием Rate-Limit Nullifiers (RLN), который позволяет пользователям делать анонимные запросы и выявлять тех, кто пытается обмануть протокол.

Этот процесс начинается с того, что владелец аккаунта генерирует секретный ключ и вносит средства на смарт-контракт, который затем используется как буфер для API-запросов. Владелец аккаунта пополняет его один раз, а затем совершает приватные вызовы за счет внесенных средств, а не совершает отдельные транзакции каждый раз при вызове API. 

Это очевидное ограничение, поскольку пользователь может сделать только столько запросов, на сколько он внес средства. Затем каждый раз, когда пользователь отправляет запрос, протокол присваивает ему индекс билета, и пользователь должен предоставить специальное доказательство, называемое ZK-STARK, о том, что он все еще использует средства, внесенные в протокол, а также любые причитающиеся ему возвраты средств. В то же время система обрабатывает возвраты, поскольку стоимость запросов к ИИ не всегда одинакова.

Протокол также генерирует уникальный нулификатор для каждого билета, чтобы доказать использование и немедленно выявить попытки повторного использования одного и того же индекса билета для двух разных запросов.

По словам Бутерина и Краписа, злоупотребления заключаются не только в двойном расходовании средств, поскольку некоторые пользователи могут пытаться нарушить правила провайдера, отправляя вредоносные промпты, методы обхода ограничений (jailbreaks) или запросы на незаконный контент, например, инструкции по изготовлению оружия. 

Таким образом, протокол добавляет еще один слой, называемый двойным стейкингом (dual staking), где депозит пользователя подчиняется строгим математическим правилам, а другой — правилам соблюдения политики провайдера.