Anthropic представила FlashProve для проверки подлинности ИИ-моделей

Компания Anthropic представила исследовательскую систему FlashProve, предназначенную для подтверждения происхождения ответов искусственного интеллекта с помощью криптографических доказательств. Новый инструмент позволяет пользователю убедиться, что полученный результат сгенерирован именно заявленной нейросетью, а не подменен другой системой.

• FlashProve использует криптографические доказательства для подтверждения подлинности ответов ИИ.
• Система защищает от скрытой подмены моделей со стороны разработчиков в целях экономии.
• Технология публикует отпечатки нейросетей, не раскрывая их закрытые веса.
• Открытая спецификация и исходный код компонентов уже опубликованы на GitHub.

Принципы работы и защита от подмены

Разработчики компании сравнивают данный механизм с цифровыми почтовыми подписями, где получатель может легко проверить подлинность отправителя. В сфере искусственного интеллекта подобная проверка защищает пользователей от ситуации, когда компания-поставщик незаметно перенаправляет запросы на более дешевую или слабую нейросеть ради сокращения собственных расходов. Обратная ситуация также возможна, когда дорогая модель подставляется для искусственного улучшения результатов тестирования.

Подобный инструмент становится критически важным для проверки заявлений сторонних сервисов и разработчиков. Например, создатели программного обеспечения смогут документально подтвердить, что их исходный код проверялся на наличие уязвимостей передовой моделью кибербезопасности, а не базовым аналогом. Аналогичным образом можно проверять качество оценки сложных бизнес-планов специализированными алгоритмами.

Технические особенности и открытый код

Для функционирования системы разработчики искусственного интеллекта должны публиковать криптографические отпечатки своих нейросетей. Данные отпечатки сопоставляются с результатами генерации для проверки происхождения ответа. Примечательно, что процесс не раскрывает веса модели — числовые параметры, определяющие логику поведения, что сохраняет коммерческую тайну закрытых архитектур.

Сама процедура проверки спроектирована достаточно легковесной, что позволяет выполнять ее непосредственно на локальном устройстве пользователя. На текущем этапе компания Anthropic опубликовала лишь техническую спецификацию проекта и рабочий код отдельных компонентов на платформе GitHub под открытой лицензией.

Перспективы внедрения и значение для индустрии

На данный момент компания не планирует внедрять разработанную систему ни в собственные продукты, ни в инфраструктуру других профильных лабораторий. Представленные материалы позиционируются как промежуточные исследовательские результаты, призванные привлечь внимание научного сообщества и независимых разработчиков к проблеме прозрачности.

Открытый характер проекта позволяет сторонним специалистам изучить предложенный механизм и внести свой вклад в его улучшение. В условиях бурного развития генеративного искусственного интеллекта подобные инструменты верификации могут стать стандартом индустрии, повышающим доверие пользователей к коммерческим нейросетям и корпоративным ИИ-решениям.