AI

DeepSeek V4.1 Flash в Token Factory: миллион токенов контекста

В сервисе Selectel Token Factory появилась DeepSeek V4.1 Flash. Модель с миллионом токенов контекста и зрением работает на серверах в РФ.

·3 мин. чтения
DeepSeek V4.1 Flash в Token Factory: миллион токенов контекста

В каталоге Token Factory, сервисе Selectel для инференса с оплатой за токены, появилась DeepSeek V4.1 Flash. Это октябрьское обновление открытой модели китайской лаборатории DeepSeek, веса которого вышли 17 октября под лицензией MIT. Модель работает через тот же OpenAI-совместимый API, что и остальной каталог, а запросы обрабатываются в российских дата-центрах.

  • Обновление DeepSeek V4.1 Flash с открытыми весами под лицензией MIT доступно в сервисе Selectel Token Factory с обработкой запросов в РФ.
  • Архитектура MoE на 763 млрд параметров с активными 16 млрд на токен обеспечивает высокую скорость и экономный KV-кэш (890 байт на токен в FP4).
  • Модель поддерживает мультимодальность с собственным энкодером DeepSeek-ViT и окно контекста в миллион токенов, превосходя предыдущие версии в агентах и веб-разработке.

Архитектура и технические особенности модели

DeepSeek — лаборатория из Ханчжоу, чьи открытые модели уже не раз роняли цены на рынке API. Базовая V4.1 Flash вышла в сентябре, а версию 1017 сама компания называет минорным обновлением. По архитектуре это MoE на 763 млрд параметров, из которых при генерации на каждый токен работают около 16 млрд. Получается, что на каждый шаг включается примерно 2% сети, поэтому модель такого размера отвечает со скоростью куда более компактных.

Главная инженерная ценность новинки заключается в экономном KV-кэше. В FP4 он занимает 890 байт на токен, вчетверо меньше, чем у V4 Flash. Именно этот подход позволяет эффективно масштабировать память при работе с контекстом в миллион токенов. Кроме того, модель является мультимодальной и принимает изображения благодаря собственному энкодеру DeepSeek-ViT, обученному с нуля.

Читайте такжеDeepSeek открыла исходный код AI-агента Super-Agent для программирования

Производительность и сценарии применения

DeepSeek обещает более высокие результаты на бенчмарках, быстрое выполнение задач и более короткие ответы. Прирост в 11 пунктов на Terminal-Bench для минорного апдейта является заметным, и он приходится как раз на агентную работу в терминале. В тестах на автоматизацию и веб-разработку легковесный Flash смог обогнать даже тяжеловесный Opus.

У новинки окно контекста больше в 2,7 раза, чем у V4 Flash. Для типичного запроса агента с 50 000 токенов на входе и 2 000 на выходе без кэша цена составит около 13 рублей, а при попадании части токенов в кэш она падает до 5,8 рубля. Для чатов и классификации выгоднее использовать базовую V4 Flash, тогда как версия 1017 оправдана для удержания в памяти целых репозиториев и длинных документов.

Безопасность данных и особенности интеграции

Все запросы остаются внутри российской инфраструктуры. Согласно документации, промпты и ответы не хранятся и не отправляются на обучение моделей, а собирается исключительно техническая статистика потребления. Для проектов, работающих с персональными данными, это служит главным аргументом в пользу локального инференса перед прямым использованием API разработчика.

Интеграция модели не требует сложных манипуляций благодаря совместимости с OpenAI API. В существующем коде достаточно заменить base_url и имя модели на deepseek-v4.1-flash-1017, при этом сама лаборатория рекомендует устанавливать параметры temperature и top_p на уровне 1.0. Новое обновление дает разработчикам длинный контекст и зрение на локальной инфраструктуре без необходимости переделывать всю архитектуру приложений.

Источник: Все новости подряд

Похожие статьи