Виталик использует доказательства с нулевым разглашением для защиты конфиденциальности AI! Анонимная оплата за чат-истории против злоупотреблений

Руководитель отдела AI в Фонде Ethereum Давиде Крапис и соучредитель Ethereum Виталик Бутерин предложили использовать доказательства с нулевым разглашением для обеспечения приватности взаимодействия пользователей с крупными языковыми моделями, одновременно предотвращая спам и злоупотребления. Каждый раз, когда пользователь отправляет сообщение чат-боту AI, происходит вызов API. Они считают, что основные вызовы для пользователей и поставщиков — это приватность, безопасность и эффективность.

Приватность и юридические риски при хранении чатов с AI

(Источник: Давиде Крапис)

Каждый раз, когда пользователь отправляет сообщение в приложение (например, чат-бот AI), активируется вызов API. В статье в блоге в среду Крапис и Бутерин отметили, что основные проблемы для пользователей и поставщиков — это приватность, безопасность и эффективность. Они сказали: «Нам нужна система, в которой пользователь может один раз внести средства, а затем анонимно, безопасно и эффективно совершать тысячи вызовов API.» Они добавили: «Необходимо обеспечить, чтобы поставщики услуг получали оплату и были защищены от спама, а также чтобы запросы пользователей не связывались с их личностью или другими пользователями.»

С расширением применения чат-ботов AI все больше вызывает опасения утечек данных крупных языковых моделей. Обычно чат-боты обрабатывают очень чувствительные данные, и связывание использования с личностью может привести к серьезным рискам для приватности, юридическим и безопасности. Журналы использования могут даже служить доказательствами в суде. Эти риски не теоретические — есть реальные случаи.

Например, человек спрашивал в ChatGPT «как легально уклониться от налогов» или «как решить имущественные споры с бывшим партнером». Такие записи, если их вызовут в суде, могут негативно повлиять на него. В более экстремальных случаях, если кто-то спрашивал о чувствительных политических темах или содержании, признанном незаконным в авторитарных странах, эти записи могут привести к политическим преследованиям. Современные AI-сервисы обычно сохраняют диалоги пользователей, хотя заявляют о шифровании и анонимизации, однако при получении правительственного ордера или при взломе эти меры защиты могут оказаться недостаточными.

Три основные проблемы текущих вызовов API AI

Риск утечки приватности: поставщики знают, кто что спрашивал, и могут раскрыть или быть вынуждены раскрыть информацию

Отслеживаемость: основанная на идентификации, требует электронной почты или кредитных карт, раскрывая реальную личность

Низкая эффективность и высокая стоимость: оплата по запросам в блокчейне медленная, дорогая и отслеживаемая

Крапис и Бутерин отмечают, что в настоящее время поставщики вынуждены выбирать между двумя «неоптимальными путями»: один — основанный на идентификации доступ, когда пользователь вынужден раскрывать электронную почту или кредитные карты, что создает риск утечки приватности; другой — оплата по запросам в блокчейне, которая медленная, дорогая и отслеживаемая. Оба варианта не обеспечивают реальной защиты приватности пользователя.

Решение с помощью доказательств с нулевым разглашением для анонимных запросов

Крапис и Бутерин предложили систему, в которой пользователь может внести средства в смарт-контракт, а затем выполнять API-запросы, не раскрывая личность или связь с запросами, используя доказательства с нулевым разглашением и ограничители скорости для оплаты и борьбы со спамом. Они говорят: «Пользователь вносит 100 USDC в смарт-контракт и делает 500 запросов к хранимому LLM. Провайдер получает 500 действительных, оплаченных запросов, но не может связать их с одним вкладчиком или между собой, а также запросы остаются анонимными и не связаны с личностью пользователя.»

Техническая логика этого решения такова: пользователь вносит 100 USDC (или другую криптовалюту) в смарт-контракт, который генерирует для него набор анонимных сертификатов (на основе доказательств с нулевым разглашением). Каждый раз, когда пользователь отправляет запрос AI, он использует анонимный сертификат, подтверждающий «я заплатил, но не говорю, кто я». Провайдер AI проверяет действительность сертификата и предоставляет услугу, не зная, кто именно отправил запрос, и не связывая 500 запросов с одним человеком.

«Эта модель требует, чтобы пользователь доказал, что его совокупные расходы (выраженные текущим индексом билетов) строго соответствуют первоначальному депозиту и проверенным возвратам, что обеспечивает платежеспособность.» Такой дизайн предотвращает двойное расходование. Пользователь не может потратить более 100 USDC, сделав более 500 запросов (при стоимости 0.2 USDC за запрос), а доказательства с нулевым разглашением гарантируют, что расходы не превышают депозит, не раскрывая при этом, кто именно тратит деньги.

Инновационный механизм против двойных залогов и злоупотреблений

Чтобы предотвратить мошенничество, создание нелегального контента, попытки взлома и другие нарушения условий использования, Крапис и Виталик Бутерин предложили систему двойного залога. Если пользователь обнаружен в попытке двойного расходования, его депозит может быть конфискован любым участником (включая сервер). Однако, если пользователь нарушает условия, его депозит отправляется на уничтожение, а факт конфискации записывается в блокчейн.

Крапис и Бутерин отмечают: «Например, пользователь может подать запрос, чтобы модель создала описание изготовления оружия или помогла обойти системы безопасности, что нарушает политику использования многих провайдеров. Хотя личность пользователя остается скрытой, сообщество может проверить частоту сжигания залога сервером и доказательства таких действий.»

Этот механизм балансирует между приватностью и ответственностью. Пользователь полностью анонимен, но при злоупотреблении (например, создании нелегального контента или взломе) его депозит конфискуется как наказание. Хотя это не полностью исключает злоупотребления, оно повышает их стоимость. Важно, что весь процесс остается анонимным: провайдеры и сообщество видят только, что «кто-то был наказан за нарушение», но не знают, кто именно.

Такая «анонимность с возможностью привлечения к ответственности» может стать новым стандартом в технологиях защиты приватности. Она доказывает, что приватность и безопасность не противоположны, а с помощью криптографических инноваций их можно реализовать одновременно. Если такие решения примут компании вроде OpenAI, Anthropic и другие, это может полностью изменить модель приватности AI-сервисов.

Для пользователя такой подход может означать: один раз внести 100 USDC в кошелек, а затем анонимно пользоваться AI в течение месяцев или лет (в зависимости от частоты использования), без необходимости входа в систему или привязки кредитных карт. В случае нарушения правил, он потеряет максимум депозит, сохраняя при этом анонимность. Такая модель «покупки анонимности за деньги» может привлечь множество профессиональных пользователей и организаций, ценящих приватность.

Для провайдеров AI это также привлекательное решение. Оно решает дилемму «если хочешь приватность — нет дохода, если хочешь доход — нет приватности». Автоматизация платежей через смарт-контракт устраняет комиссии за кредитные карты и споры. А с помощью доказательств с нулевым разглашением снижается юридический риск утечки данных (так как не собирается личная информация). Механизм залога и наказаний повышает эффективность борьбы с злоупотреблениями по сравнению с традиционными блокировками.