Anthropic представила FlashProve: прогресс в криптографических доказательствах ИИ

Компания Anthropic совместно с исследователями из EPFL, MIT, Succinct и других организаций представила важный прогресс в области проверяемого вывода (provable inference) для больших языковых моделей. Разработчики создали систему FlashProve, которая решает проблему доверия пользователей к ответам искусственного интеллекта с помощью криптографии.

• Представлен прототип FlashProve для проверки вывода крупных ИИ-моделей на базе zkSNARK.
• Система тестировалась на модели с 400 миллиардами параметров (Llama 4 Maverick) с 4-битным квантованием.
• Один GPU H100 генерирует около 110 токенов в секунду при размере доказательства ~19 МБ на 1024 токена.
• Весь код, математические доказательства на Lean и документация опубликованы под лицензией Apache 2.0.

Зачем нужен проверяемый вывод в эпоху ИИ

Когда пользователь общается с нейросетью, у него нет физических способов убедиться, что ответ сгенерирован именно заявленной моделью, а не подменен сторонним провайдером или злоумышленником. Обычная оценка качества текста не дает 100% гарантии аутентичности. Криптографические доказательства вывода решают эту задачу, позволяя провайдеру зафиксировать модель и доказать, что каждый ответ поступил именно от нее.

Технологии вроде zkSNARK (zero-knowledge succinct arguments of knowledge) позволяют передавать короткое доказательство вместе с ответом модели. Пользователь с ограниченными вычислительными ресурсами может быстро проверить его на обычном процессоре. При этом верификация полностью скрывает веса самой модели, защищая интеллектуальную собственность разработчика от утечек.

Производительность и технические детали FlashProve

Создание подобных криптографических доказательств традиционно требует огромных вычислительных затрат, однако исследователям удалось добиться впечатляющей производительности. Для модели Llama 4 Maverick с 400 миллиардами параметров (mixture of experts) один графический чип H100 обеспечивает генерацию доказательств со скоростью около 110 токенов в секунду.

Размер доказательства составляет всего около 19 мегабайт на запрос длиной 1024 токена при использовании целочисленной арифметики на этапе префилла. По данным авторов, это превышает затраты времени стандартной библиотеки vLLM в 70–95 раз, что делает систему значительно эффективнее существовавших ранее открытых аналогов.

Формальная верификация и открытый исходный код

Чтобы минимизировать риски ошибок в сложных криптографических алгоритмах, команда предоставила аудируемые математические утверждения на языке формальной верификации Lean. Релиз включает исполняемый код, быстрый верификатор на C++, доказательно корректный верификатор на Lean и интерактивный визуализатор теорем.

Весь проект распространяется под лицензией Apache 2.0 с целью привлечь независимых исследователей к доработке технологии. По замыслу авторов, открытый подход поможет не только повысить доверие пользователей, но и создать надежные инструменты для независимых аудиторов и регуляторов индустрии.