Локальный ИИ против подписки: сколько электроэнергии тратит ПК

Многие энтузиасты выбирают локальный запуск искусственного интеллекта из соображений конфиденциальности и экономии. Однако скептики часто утверждают, что вся выгода от самохостинга моделей полностью нивелируется возросшими счетами за электроэнергию.

• Тестирование проводилось с моделью Qwen3.6-35B-A3B на ПК с видеокартой RTX 4070 Ti Super и процессором Ryzen 5 7600X.
• Для замеров использовались утилиты llama-bench, HWiNFO и nvidia-smi, фиксировавшие энергопотребление каждые полсекунды.
• Пиковая мощность при генерации токенов составила 251,9 Вт для компонентов системы.
• Даже в худшем сценарии с наценкой на остальные узлы ПК расходы на электричество многократно ниже стоимости облачных подписок.

Методика тестирования и оборудование

Чтобы сделать оценку максимально объективной, автор выбрал продвинутую модель Qwen3.6-35B-A3B в квантовании UD-IQ4_XS размером 16,5 ГБ. Поскольку она полностью не помещается в 16 ГБ видеопамяти RTX 4070 Ti Super, часть экспертов была выгружена на процессор Ryzen 5 7600X с помощью флага --n-cpu-moe в llama.cpp. Это позволило задействовать и CPU, и GPU, избежав искажения результатов.

Для замеров применялся встроенный инструмент llama-bench (сборка b11927). Модели подавался промпт на 2048 токенов (обработка повторялась десять раз) с генерацией 512 токенов пять раз. Энергопотребление процессора и видеокарты фиксировалось параллельно через HWiNFO и nvidia-smi с интервалом в полсекунды. Пиковые показатели достигли 237,5 Вт при чтении запроса и 251,9 Вт при генерации.

Расчет затрат и сравнение с подписками за $20

Для расчета стоимости была использована прогнозируемая Управлением энергетической информации США средняя бытовая ставка в размере 18,2 цента за кВтч в 2026 году. Более того, методика оказалась заведомо невыгодной для автора: каждый токен оценивался по максимальному пиковому потреблению без вычета холостого хода системы.

Сумма в $20 эквивалентна примерно 110 кВтч энергии. При пиковой нагрузке в 251,9 Вт компьютер должен непрерывно генерировать токены около 436 часов, что составляет примерно 14,5 часов ежедневной работы в течение месяца. Даже при добавлении дополнительных 100 Вт на сопутствующие компоненты (кулеры, ОЭ, БП) устройство должно работать более 10 часов в день, чтобы сравняться по затратам с одной стандартной подпиской на ChatGPT, Claude или Gemini.

Почему миф о высоком потреблении энергии неверен

Существует устойчивое заблуждение, что запуск локальных моделей постоянно удерживает видеокарту на предельных значениях энергопотребления. На практике генерация токенов больше зависит от пропускной способности памяти, а не от сырой вычислительной мощности графического чипа.

Например, видеокарта RTX 4070 Ti Super при заявленном лимите в 285 Вт потребляла лишь до 144 Вт в процессе генерации и до 177 Вт при чтении промпта. Это доказывает, что страхи перед огромными счетами за электричество при использовании локальных LLM сильно преувеличены, а экономическая выгода от владения собственным ИИ-железом остается неоспоримой.