Готовим SFT-датасеты и сопровождаем дообучение большой языковой модели под ваш домен: сбор инструкций и эталонных ответов, обучение, оценка качества после файнтюна и сравнение с альтернативой — RAG. NDA на каждый проект, данные — в РФ. Первую партию инструкций готовим бесплатно на пилоте.
Fine-tuning дообучает саму модель на примерах инструкций — знания и стиль ответа «зашиваются» в веса, это оправдано, когда нужно устойчивое поведение или узкий домен. RAG не меняет модель, а подключает внешнюю базу знаний для актуальных фактов. Часто эти подходы комбинируют в одном решении.
| Критерий | Fine-tuning (SFT) | RAG |
|---|---|---|
| Что меняется | Веса модели дообучаются на примерах | Модель не меняется — подключается база знаний |
| Актуальность данных | Знания «замораживаются» на момент обучения | Данные обновляются в реальном времени |
| Когда оправдан | Устойчивый стиль, узкий домен, формат ответа | Точные факты, ссылки на источники, актуальность |
| Объём данных | Сотни-тысячи размеченных пар инструкций | База документов любого объёма плюс чанкинг |
| Поддержка со временем | Переобучение при существенном обновлении домена | Обновление базы знаний без переобучения модели |
| Прозрачность ответа | Модель не объясняет источник знаний | Можно показать источник или цитату из базы |
Если задача — не поведение модели, а актуальность и прозрачность фактов, начните с подготовки базы знаний: подробнее на странице RAG под ключ.
SFT-датасет — это пары «инструкция — эталонный ответ», на которых дообучается модель. Мы формируем инструкции из реальных обращений живых пользователей и синтетических промптов под целевой домен, пишем эталонные ответы с экспертами предметной области и проверяем консистентность стиля и формата перед отправкой в обучение.
Формируем промпты из реальных обращений и синтетических сценариев под ваш домен.
Пишем образцовые ответы силами экспертов предметной области — медицина, право, код, финансы.
Размечаем многоходовые диалоги с сохранением контекста между репликами.
Формулируем и тестируем системные инструкции под роль и стиль ассистента.
Чистим датасет от дублей, противоречий и низкокачественных примеров перед обучением.
Ранжируем варианты ответов для дополнительной RLHF-настройки после SFT.
Начинаем с бесплатного пилота на небольшой выборке инструкций, чтобы согласовать формат, стиль ответов и метрики оценки до старта основного объёма. Затем масштабируем сбор и разметку SFT-датасета силами экспертной команды, а после обучения модели проверяем качество на контрольных бенчмарках и живых диалогах.
Готовый SFT-датасет отдаём в формате JSON или JSONL с парами «инструкция — ответ», совместимом с популярными фреймворками дообучения. Разметку инструкций и рубрик ведём в Label Studio, Argilla или на собственной платформе, а результаты обучения передаём вместе с отчётом по метрикам качества.
Качество после fine-tuning измеряем на контрольных бенчмарках домена, через side-by-side сравнение с базовой моделью и факт-чек ответов экспертами. Отдельно проверяем регрессии — не ухудшились ли ответы вне целевого домена. Целевые метрики фиксируем в SLA до старта обучения, а итоговый отчёт передаём вместе с моделью.
Тестируем модель на контрольном наборе задач и вопросов вашего домена.
Сравниваем ответы новой и базовой модели вслепую по единым рубрикам.
Проверяем фактическую точность ответов силами экспертов предметной области.
Убеждаемся, что качество вне целевого домена не ухудшилось после обучения.
Целевые показатели качества фиксируем в договоре до старта дообучения.
Хранение и обработка датасета — на инфраструктуре в РФ, 152-ФЗ, ISO 27001.
Стоимость начинается от 320 ₽ за час экспертной разметки и зависит от объёма SFT-датасета, сложности домена и того, нужны ли доменные эксперты — медицина, право, код. Само обучение модели считаем отдельно по вычислительным ресурсам. Калькулятор ниже — для оценки разметки, точную смету дадим после пилота.
Собрали 15 000 пар «инструкция — эталонный ответ» по каталогу товаров и политике сервиса, дообучили модель и проверили качество side-by-side против базовой версии за 6 недель. Доля полезных ответов выросла с 71% до 94%.
Fine-tuning дообучает саму модель на примерах — знания «зашиваются» в веса. RAG не меняет модель, а подключает внешнюю базу знаний при ответе. Fine-tuning подходит для устойчивого стиля и узкого домена, RAG — для актуальных и проверяемых фактов.
SFT (supervised fine-tuning) датасет — набор пар «инструкция — эталонный ответ», на которых дообучается модель. Мы собираем инструкции из реальных обращений и синтетических сценариев, а эталонные ответы пишут эксперты предметной области.
Для сужения стиля и формата достаточно нескольких сотен качественных примеров, для нового домена — тысячи. Точный объём зависит от задачи и оценивается после пилота на вашей выборке инструкций.
Тестируем на контрольных бенчмарках домена, сравниваем ответы с базовой моделью side-by-side и проверяем факт-чек силами экспертов. Отдельно смотрим на регрессии — не ухудшились ли ответы вне целевого домена.
Разметка и подготовка SFT-датасета — от 320 ₽ за час экспертной разметки, само обучение модели считается отдельно по вычислительным ресурсам. Точную смету и план дадим после бесплатного пилота на вашей задаче.
Опишите домен и желаемое поведение модели — вернёмся с планом сбора инструкций, командой и сроком в течение 1 рабочего дня.
Оставить заявку на пилот