Moonshot AI опубликовала веса Kimi K3.1 Pro: что нового

Китайская компания Moonshot AI, один из лидеров в разработке передовых ИИ-решений, выполнила свое обещание и 4 ноября опубликовала полные веса модели Kimi K3.1 Pro на платформе Hugging Face. До этого момента технология была доступна исключительно через проприетарные API и официальные приложения компании, однако теперь разработчики получили возможность изучить и использовать эту модель локально.

• Модель K3.1 Pro использует архитектуру MoE (Mixture of Experts) с общим числом параметров 2,8 трлн, из которых 104 млрд активны на токен.
• Поддерживается контекстное окно в 1 млн токенов с возможностью обработки текстовых и визуальных данных.
• Веса представлены в квантованном формате MXFP4 для весов и MXFP8 для активаций, что позволяет упаковать модель в 1,56 ТБ вместо 5,6 ТБ в BF16.
• Релиз прошел процедуру фильтрации данных, направленную на снижение возможностей модели в контексте кибератак, при сохранении высокой эффективности.

Технические требования и особенности инференса

Развертывание Kimi K3.1 Pro — задача для серьезных вычислительных мощностей. Поскольку веса занимают 1,56 ТБ, для их загрузки требуется кластер, превышающий возможности одного узла с 8x B200 (192 ГБ HBM). Минимально разумным решением для self-hosting выглядят восемь ускорителей B300 или два узла H200. При использовании архитектуры Hopper важно учитывать отсутствие аппаратной поддержки FP4, что может негативно сказаться на производительности.

Помимо базового объема весов, для работы с контекстом в 1 млн токенов требуется колоссальный запас видеопамяти под KV-кэш. Таким образом, запуск этой модели в локальной среде остается прерогативой корпоративного сектора с доступом к кластерным решениям, а не для рядовых рабочих станций.

Безопасность и производительность

Moonshot AI пошла на прозрачный компромисс: перед релизом данные, связанные с использованием модели для проведения кибератак, были удалены. Согласно внутренним тестам, это снизило способность модели эксплуатировать уязвимости с 90,5% до 81%. Несмотря на это, модель остается крайне мощной и по независимому индексу Vals AI превосходит DeepSeek V4.1 Flash.

При этом стоит отметить узкую специализацию: модель показывает отличные результаты в написании кода и агентных задачах, но в некоторых юридических и налоговых дисциплинах она может уступать своей предшественнице. Это подтверждает, что при обучении акцент был смещен в сторону программирования и интеллектуальной автоматизации.

Значение для рынка ИИ

Релиз Kimi K3.1 Pro меняет расстановку сил в сегменте открытых весов. Сейчас модель конкурирует с Mistral Large 4 и DeepSeek, практически сокращая разрыв между лучшими открытыми моделями и проприетарными решениями уровня Claude Opus 5.5. Для бизнеса в СНГ это означает появление еще одного мощного инструмента, который можно внедрять в закрытые инфраструктуры, обеспечивая конфиденциальность данных при сохранении высокой «интеллектуальности» агентных систем.