Готовим RAG-систему под ключ: чанкинг и разметка документов, индексация базы знаний и настройка векторного поиска для вашего ассистента. Проверяем точность retrieval на тестовых вопросах, работаем под NDA, данные — в РФ. Пилот на части базы знаний — бесплатно.
RAG (Retrieval-Augmented Generation) — архитектура, при которой модель перед ответом находит релевантные фрагменты во внешней базе знаний и добавляет их в контекст запроса. Модель не «запоминает» факты в весах, а обращается к актуальному индексу документов компании, поэтому ответы точнее, проверяемы и опираются на свежие данные, а не на знания времён обучения.
Документы преобразуются в векторные представления (embeddings) и загружаются в индекс для быстрого поиска.
Тексты делятся на смысловые фрагменты нужного размера — так модель находит только релевантную часть.
Фрагменты размечаются тегами, источником и датой — это повышает точность поиска и фильтрацию.
По запросу пользователя находятся ближайшие по смыслу фрагменты базы знаний.
Найденные фрагменты сортируются по релевантности перед передачей в контекст модели.
Модель формирует ответ на основе найденных фрагментов и указывает источник.
Подготовка базы знаний начинается с брифа по источникам данных — регламентам, базе поддержки, документации продукта. Дальше мы очищаем и структурируем документы, разбиваем их на чанки оптимального размера, размечаем метаданными и загружаем в векторную базу, после чего проверяем качество поиска на тестовых вопросах.
Исходные документы принимаем в PDF, DOCX, HTML, Markdown и Confluence-экспорте, а базу знаний отдаём в виде JSON-чанков с метаданными, готовых к загрузке в векторную базу. Работаем с LangChain, LlamaIndex и популярными векторными базами — Qdrant, Weaviate, pgvector — либо интегрируемся в вашу существующую инфраструктуру.
Качество RAG измеряем на двух уровнях: точность поиска (находит ли система нужный фрагмент) и качество ответа (использует ли модель найденный контекст без искажений и галлюцинаций). Считаем метрику recall@k для поиска, а ответы проверяет эксперт по рубрике полезности, точности и наличия ссылки на источник.
Доля вопросов, для которых нужный фрагмент найден в топ-k результатов.
Эксперт сверяет, что ответ модели опирается только на найденный контекст.
Ответы оцениваются по рубрике: полнота, точность, релевантность вопросу.
Спорные ответы оценивают несколько специалистов, берём согласованную оценку.
Целевые метрики recall и точности ответов закрепляются договором.
База знаний и индекс хранятся на инфраструктуре в РФ, 152-ФЗ, ISO 27001.
Стоимость подготовки RAG под ключ считаем по часам экспертной работы — от 320 ₽ за час — она зависит от объёма документов, сложности чанкинга, домена и требуемой точности поиска. Калькулятор ниже даёт ориентир, а точную смету зафиксируем в договоре после бесплатного пилота на части вашей базы знаний.
RAG подходит, если ответы модели должны опираться на часто обновляемую базу знаний компании — регламенты, каталог, документацию — без переобучения модели. Fine-tuning выбирают, если нужно закрепить в модели стиль, формат ответа или узкую специфику домена, которая не меняется каждую неделю. Часто оба подхода комбинируют.
Подготовили базу знаний из 4 000 документов: чанкинг, разметка метаданными и индексация за 3 недели. Recall@5 поиска — 96%, время ответа ассистента сократилось с 4 минут до 15 секунд.
RAG — это способ дать языковой модели доступ к внешней базе знаний: перед ответом система находит релевантные документы и добавляет их в запрос. Модель отвечает не только «по памяти», а с опорой на конкретные документы компании, что снижает число ошибок и галлюцинаций.
RAG подключает модель к внешней базе знаний без изменения самой модели — подходит, когда данные часто обновляются. Fine-tuning дообучает модель на примерах, закрепляя знания и стиль в весах, — подходит для устойчивой специфики. Подробнее — на странице /llm-rag/fine-tuning/.
Подойдут регламенты, документация продукта, база знаний поддержки, статьи, PDF, DOCX, HTML и экспорт из Confluence или Notion. Перед индексацией мы очищаем документы от дублей и устаревших версий, чтобы модель не отвечала по неактуальным данным.
Стоимость считаем по часам экспертной работы — от 320 ₽ за час, — она зависит от объёма документов и сложности чанкинга. Точную смету дадим после бесплатного пилота на части вашей базы знаний.
Да. Каждый проект закрываем NDA, доступ к документам ограничен по ролям, а хранение и индексация происходят на инфраструктуре в РФ по 152-ФЗ. Для чувствительных данных возможна работа в изолированном контуре заказчика.
Пришлите пример документов — вернёмся с планом чанкинга, оценкой объёма и сроком в течение 1 рабочего дня.
Оставить заявку на пилот