Главное

  • RAG сочетает поиск и генерацию: сначала находятся фрагменты документов, затем модель формулирует ответ по ним.
  • Ответ сопровождается ссылкой на источник, а не только текстом. Это отличает систему от обычного чат-бота.
  • Права доступа проверяются до поиска: сотрудник не получит фрагмент, который ему недоступен.
  • Качество принимается по метрикам на контрольном наборе вопросов, а не по впечатлению от демонстрации.
  • Пилот стоит от 250 000 ₽ и занимает 3–5 недель; рабочее решение — от 600 000 ₽.

Содержание

Что такое RAG-система для базы знаний?

Для бизнеса это означает три свойства. Ответ опирается на актуальные документы, а не на данные обучения. Каждое утверждение можно проследить до источника. Обновление базы не требует переобучения модели: достаточно переиндексировать изменённые документы.

Чем RAG отличается от поиска, чат-бота и агента

СистемаЧто делаетЧто нужноКогда выбирать
ПоискНаходит документы по словамИндекс, морфологияНужен список документов, а не ответ
Чат-ботВедёт диалог по сценариюСценарий, каналТиповые вопросы с известными ответами
RAGОтвечает по документам со ссылкойИндекс, модель, контрольный наборВопросы по корпусу, нужна проверяемость
АгентВыполняет действия в системахИнструменты, права, логиНужно создать заказ или изменить запись

Граница проходит по задаче. Если сотруднику нужен ответ с цитатой — это RAG. Если нужно действие в CRM или 1С — это ИИ-агенты для бизнеса. Ответы по документации 1С и действия в учётной системе разобраны на странице ИИ для 1С.

Когда RAG нужен, а когда хватит обычного поиска?

RAG нужен, когда вопросы задаются обычным языком, а ответ разбросан по нескольким документам. Второй признак — требование ссылки на источник: в нормативах, регламентах, договорах и технической документации ответ без цитаты бесполезен. Третий признак — объём: когда корпус превышает сотни страниц, ручной поиск становится узким местом.

Обычного поиска достаточно, если сотрудники знают точные термины и ищут конкретный документ. Поиск дешевле и предсказуемее: он не формулирует ответ и не ошибается в выводах. RAG не нужен и там, где ответ уже собран в готовую статью или скрипт: чат-бот по сценарию справится быстрее и дешевле.

Честное ограничение: RAG не заменяет структуру. Если документы противоречат друг другу, система будет уверенно цитировать оба варианта. Сначала регламент и версии, потом индекс. Остальные направления собраны в разделе автоматизация бизнеса.

Архитектура RAG: индексация, поиск, ответ

Конвейер состоит из трёх этапов: подготовка корпуса, поиск и генерация. На каждом этапе свои ошибки, и их нельзя лечить одним изменением промпта.

Чанкинг

Документ режется на фрагменты, потому что модель не может принять весь корпус. Размер чанка влияет на полноту: слишком мелкий теряет контекст, слишком крупный размывает релевантность. В одном эксперименте 2026 года (автор и методика в банке фактов не раскрыты) при чанке 80 токенов ответ терялся в 23 случаях из 500, при 140 — в 3 из 500; лучший результат по точному совпадению дал чанк 120 и top-k 3.

На платформе студии используется чанк 8 000 символов с перекрытием 500 и два прохода: макроразметка структуры, затем микрофрагменты. Перекрытие сохраняет смысл на границе разделов.

Векторная база данных

Эмбеддинги хранятся в векторной базе: pgvector внутри PostgreSQL, Qdrant, Milvus, OpenSearch. Выбор зависит от объёма, фильтрации по правам и инфраструктуры. pgvector удобен, когда PostgreSQL уже есть; специализированные базы дают больше при десятках миллионов векторов.

Модель эмбеддингов фиксируется до индексации: смена означает полную переиндексацию, векторы разных моделей несравнимы.

Гибридный поиск

Гибридный поиск сочетает BM25 по точным терминам и векторный поиск по смыслу. Точный поиск ловит аббревиатуры, артикулы и номера пунктов, векторный — перефразированные вопросы. Результаты сливаются через Reciprocal Rank Fusion; на платформе вес семантики — 0,6.

На 48 997 эмбеддингах такая схема находит и точную формулировку из ГОСТа, и вопрос, заданный другими словами. Один тип поиска проигрывает: только вектор теряет артикулы, только BM25 — пересказы.

Эмбеддинги для русского языка

Качество поиска зависит от модели эмбеддингов. Бенчмарк ruMTEB включает 23 набора данных и 7 типов задач; в Retrieval лидировал BGE-M3, mE5-large-instruct показал результат выше невводных аналогов. Числовые оценки на странице не приводятся: корпус и домен отличаются от бенчмарка.

Реранкер

Реранкер пересортировывает найденные фрагменты и поднимает самые релевантные. Он нужен, когда первичный поиск даёт много похожих кандидатов. Реранкер добавляет задержку, поэтому включается после замера: если точность уже достаточна, лишний шаг не оправдан.

Как измерить качество ответов?

Качество измеряется на контрольном наборе вопросов с эталонными ответами. Без такого набора «стало лучше» — не аргумент. Метрики Ragas принимают значения от 0 до 1: faithfulness показывает согласованность ответа с найденным контекстом, answer relevancy — соответствие вопросу, context recall — полноту найденной информации, context precision — положение релевантных фрагментов в выдаче.

RAG Triad от TruLens оценивает три стороны: релевантность контекста, обоснованность ответа контекстом и релевантность ответа вопросу. Подход полезен тем, что разводит ошибку поиска и ошибку генерации.

МетрикаЧто измеряетКак использовать
FaithfulnessОтвет не противоречит контекстуПорог перед запуском, разбор галлюцинаций
Answer relevancyОтвет отвечает на вопросОтсев уклончивых и неполных ответов
Context recallПоиск нашёл всё нужноеДиагностика корпуса и чанкинга
Context precisionНужное стоит вышеНастройка гибридного поиска и реранкера

Ошибки делятся на три этапа: поиск не нашёл, нашёл не то, модель проигнорировала контекст. При третьем типе меняют промпт и валидатор, при первых двух — индекс и запрос.

Обновление индекса и рост базы знаний

Индекс устаревает вместе с документами. Регламент фиксирует, кто добавляет документ, как часто идёт переиндексация и что происходит с удалёнными версиями. Без регламента система отвечает по отменённому приказу: формально он ещё в индексе.

Дедупликация нужна, чтобы одинаковые фрагменты не занимали выдачу. Версии документов хранятся с датой: при конфликте система отдаёт приоритет актуальной редакции. Рост корпуса требует пересмотра чанкинга: то, что работало на 10 тыс. фрагментов, может не работать на 100 тыс.

На старте платформы 69% LSI-блоков не были привязаны к темам и не попадали в контекст. LLM-ассистированная привязка довела связанность до 82%. Структура корпуса важнее размера: без привязки к темам объём не помогает.

Безопасность и персональные данные

Права доступа проверяются до поиска, не после. Фильтр по ACL применяется к кандидатам, поэтому сотрудник не получает фрагмент, который ему недоступен. Если проверять после, запрещённый текст уже попадёт в контекст модели.

Контур данных выбирается заранее: облако российского провайдера, свой сервер или гибрид. Для закрытых задач используется локальная модель — её подбор и запуск описаны на странице сервер для локальной LLM.

При сборе персональных данных граждан РФ оператор обязан использовать базы данных, находящиеся в РФ (ст. 18 ч. 5 152-ФЗ). Согласие субъекта должно быть конкретным, предметным, информированным, сознательным и однозначным (ст. 9 ч. 1). Схема обработки фиксируется в договоре и согласуется с ответственным за ПДн; утверждение «система соответствует 152-ФЗ» без аудита не делается.

Этапы внедрения

  1. Аудит корпуса: типы документов, объём, версии, права, доля PDF без текстового слоя.
  2. Пилот на одном корпусе: индексация, поиск с цитированием, контрольный набор вопросов.
  3. Приёмка по метрикам: faithfulness, recall, precision, доля ответов со ссылкой.
  4. Промышленный контур: несколько источников, ACL, регламент обновления, мониторинг.
  5. Сопровождение: переиндексация, разбор ошибок, дообучение и обновление модели.

Сколько стоит RAG-система?

ВариантЧто входитЦенаСрок
ПилотОдин корпус, поиск с цитированием, замер точностиот 250 000 ₽3–5 недель
Рабочее решениеНесколько источников, ACL, обновление индекса, интеграция с порталом или CRMот 600 000 ₽6–10 недель
Закрытый контурOn-premise LLM, аудит безопасности, SLAот 900 000 ₽10–16 недель
СопровождениеПереиндексация, мониторинг качества, дообучениеот 60 000 ₽/мес—

Стоимость зависит от объёма корпуса, источников, прав и контура данных. Сопровождение не входит в стоимость. Рыночные ориентиры — оценка по открытым предложениям, 11.2026.

Примеры работ

Платформа для экспертного контента. Внутренний проект студии: 78 826 блоков знаний в двух базах, 48 997 векторных представлений в рабочем тенанте, 2 690 тем в графе и 25 таблиц — 23 в тенанте и две общие. Гибридный поиск, цитаты и разграничение данных отработаны на этой системе, а не в презентации.

Контентный конвейер. Отдельная задача студии: пять источников на тему, извлечение фактов и цитат, сборка статьи с проверкой. Конвейер показывает, как RAG работает не только с ответами, но и с подготовкой материала.

Юридический архив. Типовой сценарий: 10 тыс. документов, поиск прецедента занимает 20 минут. RAG с цитированием и ACL сокращает поиск до 2 минут и даёт ссылку в каждом ответе. Цифры иллюстративные, требуют замера на вашем корпусе.

Ошибки и ограничения

PDF без текстового слоя

Скан без OCR не индексируется: система видит пустой текст. Лечится распознаванием до индексации, а не сменой модели. Доля таких документов проверяется на аудите.

Устаревшие версии в индексе

Если старая и новая редакции лежат рядом, модель цитирует обе. Нужны версии, даты и правило приоритета. Без этого ответ формально верен и практически вреден.

Нет контрольного набора вопросов

Без эталонных ответов невозможно отличить улучшение от перестановки фрагментов. Набор собирается из реальных вопросов сотрудников, а не из примеров разработчика.

Галлюцинации не устраняются полностью

RAG снижает риск, но не убирает его: модель может обобщить фрагменты неверно. Поэтому нужны валидатор, порог уверенности и передача человеку. Обещание «ноль ошибок» — признак недобросовестной оценки.

Атаки на RAG

В корпус могут попасть документы с инструкциями для модели. Защита — фильтрация источников, права и проверка ответа. Пограничные вопросы тестируются отдельно, как и обычные.

Экономика считается по полезному ответу

Стоимость токена не равна стоимости решения. Считать нужно цену полезного ответа: доля принятых ответов, время до ответа, стоимость разбора ошибки. Формула зависит от сценария и фиксируется до пилота.

Частые вопросы

Чем RAG отличается от обычного поиска и чат-бота?

Поиск возвращает список документов, чат-бот отвечает по сценарию, RAG формулирует ответ по найденным фрагментам и показывает источник. Ключевое отличие — цитата и работа с перефразированными вопросами. Если нужен именно список файлов, RAG избыточен: обычный поиск справится быстрее, дешевле и предсказуемее.

Сколько стоит и от чего зависит цена?

Пилот стоит от 250 000 ₽, рабочее решение — от 600 000 ₽, закрытый контур — от 900 000 ₽. Цена зависит от объёма корпуса, числа источников, требований к правам и контура данных. Сопровождение считается отдельно — от 60 000 ₽ в месяц.

За какой срок можно запустить пилот?

Пилот занимает 3–5 недель: аудит корпуса, индексация, контрольный набор вопросов и замер метрик. Срок зависит от качества документов и готовности владельца корпуса. Если много сканов без текстового слоя, добавляется распознавание и срок растёт. Иногда нужна ручная проверка распознанного текста и разметка.

Как измеряется качество и кто за него отвечает?

Качество измеряется на контрольных вопросах по метрикам faithfulness, answer relevancy, context recall и context precision. Пороги согласуются до старта. Ответственный — владелец корпуса и процесса; студия отвечает за методику и воспроизводимость замера. Итоговый отчёт содержит вопросы с оценками и пороги приёмки.

Что с персональными данными и 152-ФЗ?

Персональные данные обрабатываются в инфраструктуре выбранного контура; схема фиксируется в договоре и согласуется с ответственным за ПДн. При сборе данных граждан РФ используются базы в РФ. Права доступа проверяются до поиска, поэтому закрытые фрагменты не попадают в контекст. Это заметно снижает риск утечки данных.

Возможен ли закрытый контур с локальной моделью?

Да. Для закрытого контура подбирается локальная модель и сервер, данные не покидают инфраструктуру. Такой вариант дороже облака на старте, но снимает вопрос передачи данных. Подбор конфигурации, сборка и запуск описаны на странице GPU-сервера; стоимость складывается из подбора конфигурации и запуска.

Что входит в сопровождение?

Сопровождение включает переиндексацию изменённых документов, мониторинг метрик, разбор спорных ответов и обновление модели. Регламент обновления утверждает владелец корпуса. Это отдельная услуга, она не входит в стоимость проекта. Отчётность и план обновления фиксируются заранее и утверждаются владельцем корпуса на регулярной основе.

Итоги

  • RAG отвечает по документам и показывает источник, а не пересказывает память модели.
  • Гибридный поиск обязателен: точные термины и пересказы требуют разных механизмов.
  • Качество принимается по метрикам на контрольном наборе.
  • Права доступа проверяются до поиска, контур данных выбирается заранее.
  • Пилот стоит от 250 000 ₽ и занимает 3–5 недель.
  • Структура корпуса важнее объёма: без привязки к темам фрагменты не находятся.
  • Галлюцинации снижаются, но не исчезают: нужен валидатор и передача человеку.

Начинать стоит с одного корпуса и 20–30 реальных вопросов. Такой пилот показывает, работает ли поиск на ваших документах, до промышленных затрат.

Как начать

Пришлите объём и типы документов, требования к правам доступа и примеры 20–30 вопросов, на которые система должна отвечать. Ответим в течение рабочего дня: что можно проверить на пилоте и какие данные нужны.

Что войдёт в оценку: объём корпуса, доля сканов, число источников, контур данных и требования к цитированию.

Телефон: 8 (917) 749-78-98. Email: maksim@nabiullin.com. Офис: Уфа, ул. Ветошникова, 99, оф. 514. Работаем по России.