Дообучение LLM или RAG: как понять, что именно сломалось в модели
Прежде чем дообучать LLM на своих данных или внедрять RAG, важно найти истинную причину ошибок. Разбор методов, затрат и реальных кейсов.

Фраза «давайте дообучим модель на наших данных» звучит почти в каждом проекте по внедрению LLM, однако часто лечение выбирается до того, как поставлен диагноз. Ошибки искусственного интеллекта далеко не всегда требуют изменения весов модели, ведь корень проблемы может крыться в неактуальных документах или некорректном поиске.
- Сначала проверяйте документы, инструкции и работу системы на реальных задачах, а не спешите запускать дообучение.
- RAG передает актуальные факты в контексте без изменения весов модели, обеспечивая легкое обновление и проверяемость.
- Дообучение меняет саму модель для воспроизведения сложного поведения, классификации или извлечения полей.
- Сбор качественных данных для будущей модели нужно начинать с первого дня эксплуатации системы.
Контекст против весов модели Контекст — это всё, что модель получает в конкретном запросе: вопрос, системную инструкцию, примеры и найденные фрагменты документов. Это классический подход RAG, когда поисковая система находит нужный пункт регламента и передает его нейросети вместе с пользовательским запросом. При этом веса базовой модели остаются неизменными, что позволяет легко обновлять информацию простым изменением индексных баз данных. В то же время дообучение меняет саму структуру модели, обучая ее воспроизводить правильное поведение на основе примеров. Согласно исследованиям Microsoft и независимым экспериментам 2023–2024 годов, RAG стабильно отвечает на фактические вопросы лучше, чем дообучение без учителя на тех же текстах. Более того, хранение актуальных цен или договоров в весах нейросети является сомнительным инженерным решением из-за сложностей с обновлением и невозможности фильтрации прав доступа.
Когда действительно нужно дообучение Обсуждать дообучение имеет смысл тогда, когда у вас есть воспроизводимая ошибка или измеримое ограничение по цене и скорости, а формулировка «агент иногда тупит» для этих целей не подходит. Первый типичный сценарий — автоматизация поддержки, когда стандартные инструкции уже не справляются со сложными исключениями, но есть накопленная история проверенных решений. Второй сценарий — экономия за счет перехода на более компактную дообученную модель, способную выполнять узкую задачу дешевле крупного аналога. Для успешного старта эксперимента у вас должны быть определена четкая задача, проверенные примеры, работающий бейзлайн и независимый тестовый набор данных. Если текущий агент справляется с нагрузкой, а процессы компании все еще меняются, дообучение может просто не окупиться, добавив лишней сложности в последующее сопровождение инфраструктуры.
Расходы и инфраструктура проекта Финансовые затраты на дообучение LLM складываются не только из аренды графических процессоров, но и из человеческих ресурсов. Подготовка обучающей выборки, очистка данных от чувствительных сведений, разбор пограничных случаев специалистами и последующий мониторинг качества часто требуют десятков часов квалифицированного труда. С точки зрения «железа», требования зависят от выбранного объема параметров модели: для LoRA или QLoRA можно использовать как облачные GPU от различных провайдеров, так и специализированные сторонние API-сервисы.
Что это значит для разработчиков и бизнеса Для разработчиков и IT-архитекторов подход к внедрению LLM должен начинаться с жесткой отладки пайплайна поиска и сборки контекста. Проведение экспериментов с «идеальным» контекстом позволяет сразу отсечь архитектурные проблемы и понять, стоит ли тратить бюджет на подготовку датасетов и аренду GPU. Грамотное разделение задач между RAG и тонкой настройкой весов экономит ресурсы компании и страхует от технических проблем при смене версий базовых моделей.
Источник: Все публикации подряд на Хабре



