Главное
- RAG сочетает поиск и генерацию: сначала находятся фрагменты документов, затем модель формулирует ответ по ним.
- Ответ сопровождается ссылкой на источник, а не только текстом. Это отличает систему от обычного чат-бота.
- Права доступа проверяются до поиска: сотрудник не получит фрагмент, который ему недоступен.
- Качество принимается по метрикам на контрольном наборе вопросов, а не по впечатлению от демонстрации.
- Пилот стоит от 250 000 ₽ и занимает 3–5 недель; рабочее решение — от 600 000 ₽.
Содержание
Что такое RAG-система для базы знаний?
Для бизнеса это означает три свойства. Ответ опирается на актуальные документы, а не на данные обучения. Каждое утверждение можно проследить до источника. Обновление базы не требует переобучения модели: достаточно переиндексировать изменённые документы.
Чем RAG отличается от поиска, чат-бота и агента
| Система | Что делает | Что нужно | Когда выбирать |
|---|---|---|---|
| Поиск | Находит документы по словам | Индекс, морфология | Нужен список документов, а не ответ |
| Чат-бот | Ведёт диалог по сценарию | Сценарий, канал | Типовые вопросы с известными ответами |
| RAG | Отвечает по документам со ссылкой | Индекс, модель, контрольный набор | Вопросы по корпусу, нужна проверяемость |
| Агент | Выполняет действия в системах | Инструменты, права, логи | Нужно создать заказ или изменить запись |
Граница проходит по задаче. Если сотруднику нужен ответ с цитатой — это RAG. Если нужно действие в CRM или 1С — это ИИ-агенты для бизнеса. Ответы по документации 1С и действия в учётной системе разобраны на странице ИИ для 1С.
Когда RAG нужен, а когда хватит обычного поиска?
RAG нужен, когда вопросы задаются обычным языком, а ответ разбросан по нескольким документам. Второй признак — требование ссылки на источник: в нормативах, регламентах, договорах и технической документации ответ без цитаты бесполезен. Третий признак — объём: когда корпус превышает сотни страниц, ручной поиск становится узким местом.
Обычного поиска достаточно, если сотрудники знают точные термины и ищут конкретный документ. Поиск дешевле и предсказуемее: он не формулирует ответ и не ошибается в выводах. RAG не нужен и там, где ответ уже собран в готовую статью или скрипт: чат-бот по сценарию справится быстрее и дешевле.
Честное ограничение: RAG не заменяет структуру. Если документы противоречат друг другу, система будет уверенно цитировать оба варианта. Сначала регламент и версии, потом индекс. Остальные направления собраны в разделе автоматизация бизнеса.
Архитектура RAG: индексация, поиск, ответ
Конвейер состоит из трёх этапов: подготовка корпуса, поиск и генерация. На каждом этапе свои ошибки, и их нельзя лечить одним изменением промпта.
Чанкинг
Документ режется на фрагменты, потому что модель не может принять весь корпус. Размер чанка влияет на полноту: слишком мелкий теряет контекст, слишком крупный размывает релевантность. В одном эксперименте 2026 года (автор и методика в банке фактов не раскрыты) при чанке 80 токенов ответ терялся в 23 случаях из 500, при 140 — в 3 из 500; лучший результат по точному совпадению дал чанк 120 и top-k 3.
На платформе студии используется чанк 8 000 символов с перекрытием 500 и два прохода: макроразметка структуры, затем микрофрагменты. Перекрытие сохраняет смысл на границе разделов.
Векторная база данных
Эмбеддинги хранятся в векторной базе: pgvector внутри PostgreSQL, Qdrant, Milvus, OpenSearch. Выбор зависит от объёма, фильтрации по правам и инфраструктуры. pgvector удобен, когда PostgreSQL уже есть; специализированные базы дают больше при десятках миллионов векторов.
Модель эмбеддингов фиксируется до индексации: смена означает полную переиндексацию, векторы разных моделей несравнимы.
Гибридный поиск
Гибридный поиск сочетает BM25 по точным терминам и векторный поиск по смыслу. Точный поиск ловит аббревиатуры, артикулы и номера пунктов, векторный — перефразированные вопросы. Результаты сливаются через Reciprocal Rank Fusion; на платформе вес семантики — 0,6.
На 48 997 эмбеддингах такая схема находит и точную формулировку из ГОСТа, и вопрос, заданный другими словами. Один тип поиска проигрывает: только вектор теряет артикулы, только BM25 — пересказы.
Эмбеддинги для русского языка
Качество поиска зависит от модели эмбеддингов. Бенчмарк ruMTEB включает 23 набора данных и 7 типов задач; в Retrieval лидировал BGE-M3, mE5-large-instruct показал результат выше невводных аналогов. Числовые оценки на странице не приводятся: корпус и домен отличаются от бенчмарка.
Реранкер
Реранкер пересортировывает найденные фрагменты и поднимает самые релевантные. Он нужен, когда первичный поиск даёт много похожих кандидатов. Реранкер добавляет задержку, поэтому включается после замера: если точность уже достаточна, лишний шаг не оправдан.
Как измерить качество ответов?
Качество измеряется на контрольном наборе вопросов с эталонными ответами. Без такого набора «стало лучше» — не аргумент. Метрики Ragas принимают значения от 0 до 1: faithfulness показывает согласованность ответа с найденным контекстом, answer relevancy — соответствие вопросу, context recall — полноту найденной информации, context precision — положение релевантных фрагментов в выдаче.
RAG Triad от TruLens оценивает три стороны: релевантность контекста, обоснованность ответа контекстом и релевантность ответа вопросу. Подход полезен тем, что разводит ошибку поиска и ошибку генерации.
| Метрика | Что измеряет | Как использовать |
|---|---|---|
| Faithfulness | Ответ не противоречит контексту | Порог перед запуском, разбор галлюцинаций |
| Answer relevancy | Ответ отвечает на вопрос | Отсев уклончивых и неполных ответов |
| Context recall | Поиск нашёл всё нужное | Диагностика корпуса и чанкинга |
| Context precision | Нужное стоит выше | Настройка гибридного поиска и реранкера |
Ошибки делятся на три этапа: поиск не нашёл, нашёл не то, модель проигнорировала контекст. При третьем типе меняют промпт и валидатор, при первых двух — индекс и запрос.
Обновление индекса и рост базы знаний
Индекс устаревает вместе с документами. Регламент фиксирует, кто добавляет документ, как часто идёт переиндексация и что происходит с удалёнными версиями. Без регламента система отвечает по отменённому приказу: формально он ещё в индексе.
Дедупликация нужна, чтобы одинаковые фрагменты не занимали выдачу. Версии документов хранятся с датой: при конфликте система отдаёт приоритет актуальной редакции. Рост корпуса требует пересмотра чанкинга: то, что работало на 10 тыс. фрагментов, может не работать на 100 тыс.
На старте платформы 69% LSI-блоков не были привязаны к темам и не попадали в контекст. LLM-ассистированная привязка довела связанность до 82%. Структура корпуса важнее размера: без привязки к темам объём не помогает.
Безопасность и персональные данные
Права доступа проверяются до поиска, не после. Фильтр по ACL применяется к кандидатам, поэтому сотрудник не получает фрагмент, который ему недоступен. Если проверять после, запрещённый текст уже попадёт в контекст модели.
Контур данных выбирается заранее: облако российского провайдера, свой сервер или гибрид. Для закрытых задач используется локальная модель — её подбор и запуск описаны на странице сервер для локальной LLM.
При сборе персональных данных граждан РФ оператор обязан использовать базы данных, находящиеся в РФ (ст. 18 ч. 5 152-ФЗ). Согласие субъекта должно быть конкретным, предметным, информированным, сознательным и однозначным (ст. 9 ч. 1). Схема обработки фиксируется в договоре и согласуется с ответственным за ПДн; утверждение «система соответствует 152-ФЗ» без аудита не делается.
Этапы внедрения
- Аудит корпуса: типы документов, объём, версии, права, доля PDF без текстового слоя.
- Пилот на одном корпусе: индексация, поиск с цитированием, контрольный набор вопросов.
- Приёмка по метрикам: faithfulness, recall, precision, доля ответов со ссылкой.
- Промышленный контур: несколько источников, ACL, регламент обновления, мониторинг.
- Сопровождение: переиндексация, разбор ошибок, дообучение и обновление модели.
Сколько стоит RAG-система?
| Вариант | Что входит | Цена | Срок |
|---|---|---|---|
| Пилот | Один корпус, поиск с цитированием, замер точности | от 250 000 ₽ | 3–5 недель |
| Рабочее решение | Несколько источников, ACL, обновление индекса, интеграция с порталом или CRM | от 600 000 ₽ | 6–10 недель |
| Закрытый контур | On-premise LLM, аудит безопасности, SLA | от 900 000 ₽ | 10–16 недель |
| Сопровождение | Переиндексация, мониторинг качества, дообучение | от 60 000 ₽/мес | — |
Стоимость зависит от объёма корпуса, источников, прав и контура данных. Сопровождение не входит в стоимость. Рыночные ориентиры — оценка по открытым предложениям, 11.2026.
Примеры работ
Платформа для экспертного контента. Внутренний проект студии: 78 826 блоков знаний в двух базах, 48 997 векторных представлений в рабочем тенанте, 2 690 тем в графе и 25 таблиц — 23 в тенанте и две общие. Гибридный поиск, цитаты и разграничение данных отработаны на этой системе, а не в презентации.
Контентный конвейер. Отдельная задача студии: пять источников на тему, извлечение фактов и цитат, сборка статьи с проверкой. Конвейер показывает, как RAG работает не только с ответами, но и с подготовкой материала.
Юридический архив. Типовой сценарий: 10 тыс. документов, поиск прецедента занимает 20 минут. RAG с цитированием и ACL сокращает поиск до 2 минут и даёт ссылку в каждом ответе. Цифры иллюстративные, требуют замера на вашем корпусе.
Ошибки и ограничения
PDF без текстового слоя
Скан без OCR не индексируется: система видит пустой текст. Лечится распознаванием до индексации, а не сменой модели. Доля таких документов проверяется на аудите.
Устаревшие версии в индексе
Если старая и новая редакции лежат рядом, модель цитирует обе. Нужны версии, даты и правило приоритета. Без этого ответ формально верен и практически вреден.
Нет контрольного набора вопросов
Без эталонных ответов невозможно отличить улучшение от перестановки фрагментов. Набор собирается из реальных вопросов сотрудников, а не из примеров разработчика.
Галлюцинации не устраняются полностью
RAG снижает риск, но не убирает его: модель может обобщить фрагменты неверно. Поэтому нужны валидатор, порог уверенности и передача человеку. Обещание «ноль ошибок» — признак недобросовестной оценки.
Атаки на RAG
В корпус могут попасть документы с инструкциями для модели. Защита — фильтрация источников, права и проверка ответа. Пограничные вопросы тестируются отдельно, как и обычные.
Экономика считается по полезному ответу
Стоимость токена не равна стоимости решения. Считать нужно цену полезного ответа: доля принятых ответов, время до ответа, стоимость разбора ошибки. Формула зависит от сценария и фиксируется до пилота.
Частые вопросы
Чем RAG отличается от обычного поиска и чат-бота?
Поиск возвращает список документов, чат-бот отвечает по сценарию, RAG формулирует ответ по найденным фрагментам и показывает источник. Ключевое отличие — цитата и работа с перефразированными вопросами. Если нужен именно список файлов, RAG избыточен: обычный поиск справится быстрее, дешевле и предсказуемее.
Сколько стоит и от чего зависит цена?
Пилот стоит от 250 000 ₽, рабочее решение — от 600 000 ₽, закрытый контур — от 900 000 ₽. Цена зависит от объёма корпуса, числа источников, требований к правам и контура данных. Сопровождение считается отдельно — от 60 000 ₽ в месяц.
За какой срок можно запустить пилот?
Пилот занимает 3–5 недель: аудит корпуса, индексация, контрольный набор вопросов и замер метрик. Срок зависит от качества документов и готовности владельца корпуса. Если много сканов без текстового слоя, добавляется распознавание и срок растёт. Иногда нужна ручная проверка распознанного текста и разметка.
Как измеряется качество и кто за него отвечает?
Качество измеряется на контрольных вопросах по метрикам faithfulness, answer relevancy, context recall и context precision. Пороги согласуются до старта. Ответственный — владелец корпуса и процесса; студия отвечает за методику и воспроизводимость замера. Итоговый отчёт содержит вопросы с оценками и пороги приёмки.
Что с персональными данными и 152-ФЗ?
Персональные данные обрабатываются в инфраструктуре выбранного контура; схема фиксируется в договоре и согласуется с ответственным за ПДн. При сборе данных граждан РФ используются базы в РФ. Права доступа проверяются до поиска, поэтому закрытые фрагменты не попадают в контекст. Это заметно снижает риск утечки данных.
Возможен ли закрытый контур с локальной моделью?
Да. Для закрытого контура подбирается локальная модель и сервер, данные не покидают инфраструктуру. Такой вариант дороже облака на старте, но снимает вопрос передачи данных. Подбор конфигурации, сборка и запуск описаны на странице GPU-сервера; стоимость складывается из подбора конфигурации и запуска.
Что входит в сопровождение?
Сопровождение включает переиндексацию изменённых документов, мониторинг метрик, разбор спорных ответов и обновление модели. Регламент обновления утверждает владелец корпуса. Это отдельная услуга, она не входит в стоимость проекта. Отчётность и план обновления фиксируются заранее и утверждаются владельцем корпуса на регулярной основе.
Итоги
- RAG отвечает по документам и показывает источник, а не пересказывает память модели.
- Гибридный поиск обязателен: точные термины и пересказы требуют разных механизмов.
- Качество принимается по метрикам на контрольном наборе.
- Права доступа проверяются до поиска, контур данных выбирается заранее.
- Пилот стоит от 250 000 ₽ и занимает 3–5 недель.
- Структура корпуса важнее объёма: без привязки к темам фрагменты не находятся.
- Галлюцинации снижаются, но не исчезают: нужен валидатор и передача человеку.
Начинать стоит с одного корпуса и 20–30 реальных вопросов. Такой пилот показывает, работает ли поиск на ваших документах, до промышленных затрат.
Как начать
Пришлите объём и типы документов, требования к правам доступа и примеры 20–30 вопросов, на которые система должна отвечать. Ответим в течение рабочего дня: что можно проверить на пилоте и какие данные нужны.
Что войдёт в оценку: объём корпуса, доля сканов, число источников, контур данных и требования к цитированию.
Телефон: 8 (917) 749-78-98. Email: maksim@nabiullin.com. Офис: Уфа, ул. Ветошникова, 99, оф. 514. Работаем по России.