Revolut перевел 2000 инженеров на self-hosted GLM: экономия 90%

Британский финтех Revolut радикально оптимизировал затраты на использование ИИ-ассистентов для своих разработчиков. За последний год компания отказалась от облачных решений вроде Claude Code и Codex в пользу открытой модели GLM от Z.ai, развернутой на собственных серверах, что позволило сократить бюджет на 90%.

• Переход на самописную инфраструктуру с использованием GLM-5.3 на собственных GPU снизил стоимость миллиона токенов до 0,30 доллара.
• Инфраструктура базируется на 56 ускорителях NVIDIA B200, обслуживающих 2000 инженеров.
• Оптимизация гиперпараметров и ограничение длины контекста до 256 тысяч токенов обеспечили высокую скорость отклика.
• Рост продуктивности разработчиков составил 60% по скорости написания кода и 70% по lead time благодаря параллельным задачам.

Техническая реализация и оптимизация

Решение Revolut строится на модели GLM-5.3, развернутой на семи стандартных системах DGX B200. Основной упор был сделан не на наращивание мощностей, а на тонкую настройку инференса. Дэвид Абитбол, руководитель инфраструктуры компании, подчеркнул важность квантования в формате NVFP4 и разделение пулов для операций prefill и decode.

Особое внимание уделили работе с контекстом. По заявлению Абитбола, поддержка миллиона токенов часто является избыточной. Ограничение в 256 000 токенов позволило компании добиться времени до первого токена менее трех секунд при сохранении достаточного объема для работы с кодовой базой целых микросервисов.

Изменение паттернов разработки

С переходом на self-hosted модель исчез дефицит токенов, что изменило поведение инженеров. Раньше жесткие лимиты заставляли разработчиков экономить ресурсы, теперь же задачи запускаются параллельно. Помимо написания кода, модели активно используются для отладки и автоматизации работы с документацией в Jira и Confluence, что кратно ускорило рабочие процессы.

Уроки для бизнеса и разработчиков

Опыт Revolut доказывает, что для компаний с командой от нескольких сотен активных пользователей self-hosted агентные решения становятся экономически оправданными. Это позволяет не только контролировать расходы, но и обеспечивать безопасность данных, минимизируя риск их утечки через внешние API. В условиях растущего выбора мощных моделей с открытыми весами (например, Mistral Large 4), тренд на локальный хостинг ИИ-инструментов будет только укрепляться.