Готовим экспертную разметку и датасеты для обучения и оценки больших языковых моделей: RLHF, SFT для дообучения, базы знаний для RAG и независимая проверка качества ответов. Работаем с носителями языка и предметными экспертами, под NDA, данные — в РФ. Формат и рубрики оценки согласуем индивидуально под архитектуру и домен вашей модели.
Большим языковым моделям данные нужны на разных этапах жизненного цикла: парные сравнения и рубрики оценки для RLHF, инструкции и диалоги для дообучения (SFT), размеченная база знаний для RAG и независимая экспертная оценка качества ответов после запуска модели в продакшен. Ниже — четыре направления, с которыми мы работаем чаще всего.
Парные сравнения ответов, рубрики оценки и экспертный human feedback для alignment модели.
Сбор инструкций и SFT-датасеты для дообучения модели под ваш домен и задачи.
Подготовка базы знаний: чанкинг, разметка документов и настройка поиска для ассистента.
Рубрики, side-by-side сравнения, факт-чек и red teaming силами экспертной команды.
Классическая разметка присваивает объекту фиксированный класс — рамку, маску или тег по инструкции. Разметка для LLM устроена иначе: эксперт сравнивает и оценивает целые текстовые ответы по развёрнутым рубрикам, а инструкция — это не список классов, а критерии полезности, безопасности и фактической точности.
| Критерий | Классическая разметка | Разметка для LLM |
|---|---|---|
| Единица разметки | Объект на изображении или видео — bbox, маска, тег | Целый ответ модели, пара ответов или диалог |
| Кто размечает | Асессор по фиксированной инструкции | Эксперт предметной области, часто с профильным образованием |
| Что оценивается | Правильность класса и границ объекта | Полезность, безопасность, фактическая точность, стиль |
| Формат результата | Аннотация в JSON/XML (COCO, YOLO, CVAT) | Рубрики, ранжирование, парные сравнения, feedback |
| Инструкция | Фиксированный гайдлайн классов объектов | Развёрнутые рубрики оценки, обновляются итеративно |
| Контроль качества | Метрика согласованности (IAA) между асессорами | Консенсус экспертов и калибровка рубрик оценки |
Поэтому для LLM критичнее не скорость разметчика, а квалификация рецензента и качество самих рубрик оценки.
Проекты по LLM часто связаны с чувствительными данными — промптами, диалогами с клиентами, внутренними документами компании. Каждый проект закрываем NDA, доступ разметчиков ограничен по ролям и объёму задачи, а данные хранятся и обрабатываются на инфраструктуре в РФ по 152-ФЗ. Процессы сертифицированы по ISO/IEC 27001 и ISO 9001.
Для чувствительных доменов — юридического, медицинского, финансового — привлекаем разметчиков с профильным образованием и подписанным соглашением о неразглашении. По запросу работаем в изолированном контуре заказчика или через защищённый доступ, без выгрузки исходных данных за периметр компании. Конкретные меры безопасности фиксируем в договоре и NDA до старта проекта.
Стоимость зависит от типа задачи — RLHF-разметка, SFT-датасеты, подготовка базы знаний для RAG или экспертная оценка ответов, — а также от объёма, языка и требуемой квалификации асессоров. Ориентировочные вилки по всем направлениям разметки — на странице цен; точную смету дадим после бесплатного пилота на вашей задаче.
Смотреть цены и калькулятор →RLHF (Reinforcement Learning from Human Feedback) — метод, при котором люди сравнивают и ранжируют ответы модели, а на этой обратной связи обучается модель вознаграждения. Так модель учится выбирать более полезные, безопасные и качественные ответы, а не только грамматически верные. Это ключевой этап alignment — приведения модели в соответствие ожиданиям людей.
SFT дообучает саму модель на инструкциях и примерах диалогов — знания «зашиваются» в веса модели. RAG не меняет модель, а подключает к ней внешнюю базу знаний: при ответе система находит релевантные документы и добавляет их в контекст. Часто эти подходы комбинируют в одном решении.
Для типовых задач достаточно обученных асессоров с чётким гайдлайном. Но для оценки ответов в медицине, праве, финансах или сложной технической области привлекаем экспертов с профильным образованием — иначе оценка «полезности» и «фактической точности» ответа будет поверхностной. Состав команды под задачу согласуем на старте проекта.
Стоимость зависит от типа задачи — RLHF, SFT, RAG или оценка, — объёма и требуемой квалификации асессоров. Рыночный ориентир — от 320 ₽ за час экспертной работы; точную смету и сроки дадим после короткого бесплатного пилота на вашей задаче. Ориентировочные вилки по направлениям — на странице цен.
Каждый проект закрываем NDA, доступ к данным ограничен по ролям, а хранение и обработка происходят на инфраструктуре в РФ с соблюдением 152-ФЗ. Для чувствительных доменов возможна работа в изолированном контуре заказчика без выгрузки исходных данных за периметр компании. Процессы сертифицированы по ISO/IEC 27001 и ISO 9001.
Основной язык — русский, включая диалекты и профессиональную терминологию отраслей, плюс английский и другие языки под задачу. Работаем как с общими доменами, так и с узкоспециализированными — юриспруденция, медицина, финансы, промышленность, где нужны асессоры с профильной экспертизой. Состав команды подбираем под конкретный проект и язык.
Опишите задачу — RLHF, дообучение, RAG или оценка — и мы вернёмся с планом, составом команды и сроком в течение одного рабочего дня.
Оставить заявку на пилот