Главное
- RAG = retrieval (поиск) + generation (генерация): модель отвечает по найденным фрагментам.
- Ответ сопровождается ссылкой на источник, поэтому его можно проверить.
- Качество зависит от корпуса, чанкинга и поиска сильнее, чем от модели.
- Гибридный поиск сочетает точные термины и смысловое сходство.
- Ошибки делятся на три этапа: поиск, контекст, генерация.
Содержание
Что такое RAG-система?
RAG расшифровывается как retrieval-augmented generation — генерация с дополненной выборкой. По описанию Microsoft, система извлекает релевантные документы, добавляет их в контекст модели и генерирует ответ. Шаблон объединяет два компонента: поиск информации и генерацию текста.
Ключевое отличие от обычной модели — опора на внешний корпус. Модель не «вспоминает» факт, а читает фрагмент и ссылается на него. Если документ обновился, достаточно переиндексировать его, чтобы ответ изменился. Источник ответа становится частью результата, а не скрытой деталью.
Чем RAG отличается от поиска и чат-бота
Поиск возвращает список документов, чат-бот ведёт диалог по сценарию, RAG формулирует ответ по найденным фрагментам. Чат-бот может не иметь корпуса вовсе; RAG без корпуса не работает. Для задач, где нужен именно список файлов, RAG избыточен.
Зачем нужен RAG?
RAG нужен там, где ответ разбросан по документам и требует проверки. Регламенты, инструкции, договоры, техническая документация — типичные примеры. Сотрудник задаёт вопрос обычным языком и получает ответ с цитатой, а не список ссылок для самостоятельного чтения.
Второй мотив — обновляемость. Дообучение модели дорого и не гарантирует актуальность; переиндексация документов дешевле и понятнее. Третий мотив — контроль доступа: можно ограничить, какие фрагменты видит конкретный сотрудник.
Когда RAG не нужен
Если ответ уже собран в готовую статью или скрипт, чат-бот по сценарию справится быстрее. Если вопросов мало и они не меняются, хватит обычной базы знаний с поиском. RAG не заменяет структуру: при противоречивых документах система будет уверенно цитировать оба варианта.
Из чего состоит RAG-система
Конвейер включает загрузку, разбиение, индексирование, поиск и генерацию. Этапы связаны: ошибка в чанкинге проявляется как «плохой ответ» на последнем шаге.
Загрузка и разбор документов
Документы приводятся к тексту: PDF, DOCX, HTML, таблицы. Сканы без текстового слоя требуют распознавания, иначе система видит пустой файл. Метаданные — дата, версия, владелец, права — сохраняются вместе с текстом.
Чанкинг
Текст режется на фрагменты, потому что весь корпус в контекст не помещается. Слишком мелкий фрагмент теряет смысл, слишком крупный размывает релевантность. Перекрытие сохраняет связь на границе разделов. Размер подбирается под документы и проверяется на контрольных вопросах, а не по общему правилу.
Эмбеддинги и векторная база
Каждый фрагмент превращается в вектор — числовое представление смысла. Векторы хранятся в базе: pgvector, Qdrant, Milvus, OpenSearch. Поиск находит ближайшие векторы к вопросу. Смена модели эмбеддингов требует полной переиндексации: векторы разных моделей несравнимы.
Поиск
Поиск возвращает кандидатов, которые попадут в контекст. Кроме векторного сходства применяются фильтры по правам, дате и типу документа. Число кандидатов ограничивается, иначе контекст переполняется и модель теряет главное.
Генерация
Модель получает вопрос и найденные фрагменты, формирует ответ и ссылки. Промпт задаёт правила: отвечать только по контексту, указывать источник, признавать отсутствие ответа. Валидатор проверяет формат и наличие ссылок.
Гибридный поиск и реранкер
Гибридный поиск сочетает BM25 по точным терминам и векторный поиск по смыслу. Точный поиск ловит аббревиатуры, артикулы и номера пунктов; векторный — перефразированные вопросы. Результаты сливаются, например через Reciprocal Rank Fusion, чтобы получить единый список.
Один тип поиска проигрывает: только вектор теряет артикулы, только BM25 — пересказы. Реранкер добавляет второй этап: пересортировывает кандидатов и поднимает самые релевантные. Он повышает точность, но добавляет задержку, поэтому включается после замера.
Как оценивают качество RAG
Качество измеряется на контрольном наборе вопросов с эталонными ответами. Метрики Ragas принимают значения от 0 до 1: faithfulness — согласованность ответа с контекстом, answer relevancy — соответствие вопросу, context recall — полнота найденного, context precision — положение релевантных фрагментов.
| Метрика | Что показывает | Что чинит |
|---|---|---|
| Faithfulness | Ответ не противоречит контексту | Промпт, валидатор |
| Answer relevancy | Ответ отвечает на вопрос | Промпт, модель |
| Context recall | Поиск нашёл всё нужное | Чанкинг, корпус |
| Context precision | Нужное выше в выдаче | Гибрид, реранкер |
В нашей практике ошибки чаще всего возникали из-за непривязанных к темам фрагментов, а не из-за модели. Ошибки разделяются на три этапа: поиск не нашёл, поиск нашёл не то, модель проигнорировала контекст. Разделение экономит время: при третьем типе меняют промпт, при первых двух — индекс и запрос. Подробная методика — в документации Ragas.
Где RAG ломается
PDF без текстового слоя
Скан без распознавания не индексируется. Система отвечает «не найдено», хотя документ есть. Решение — OCR до индексации и проверка доли таких файлов на аудите.
Устаревшие версии
Если старая и новая редакции лежат рядом, модель цитирует обе. Нужны версии, даты и правило приоритета. Без этого ответ формально верен и практически вреден.
Нет контрольного набора
Без эталонных вопросов невозможно отличить улучшение от перестановки фрагментов. Набор собирается из реальных вопросов сотрудников.
Переполнение контекста
Слишком много кандидатов размывает ответ: модель теряет главное. Число фрагментов ограничивается, лишние отбрасываются реранкером.
Галлюцинации остаются
RAG снижает риск, но не убирает его: модель может обобщить фрагменты неверно. Нужны валидатор, порог уверенности и передача человеку.
RAG против дообучения
Дообучение меняет веса модели и подходит для стиля, формата и типовых patterns. RAG подключает внешние знания и подходит для фактов, которые меняются. Смешивать задачи не стоит: дообучение не гарантирует актуальность документов, а RAG не научит модель новому стилю.
| Критерий | RAG | Дообучение |
|---|---|---|
| Источник знаний | Внешний корпус | Веса модели |
| Обновление | Переиндексация | Новый цикл обучения |
| Ссылка на источник | Есть | Обычно нет |
| Стоимость обновления | Ниже | Выше |
| Когда выбирать | Факты и документы | Стиль и формат |
На практике схемы сочетаются: дообучение задаёт поведение, RAG поставляет факты.
Когда нужен свой RAG
Свой контур оправдан, когда данные нельзя выносить в облако, когда нужен контроль над индексом и правами или когда объём запросов делает внешний сервис дорогим. Для закрытого контура подбирается локальная модель; подбор и запуск описаны на странице GPU-сервер для локальных LLM.
Если требования мягче, начинают с облака и пилота на одном корпусе. Если RAG нужен как часть агента, который выполняет действия, смотрите ИИ-агенты для бизнеса. Пилот показывает, работает ли поиск на ваших документах, до промышленных затрат. Разработка под конкретный корпус — на странице RAG-система по базе знаний.
Частые вопросы
Что такое RAG простыми словами?
RAG — это поиск по документам плюс ответ языковой модели. Система находит нужные фрагменты, передаёт их модели и просит ответить по ним. В ответе указывается источник. Без поиска модель отвечала бы по памяти, а без модели пользователь получил бы просто список файлов.
Чем RAG лучше обычного поиска?
RAG даёт готовый ответ и ссылку, а поиск — список документов. Для перефразированных вопросов RAG удобнее, потому что ищет по смыслу. Для точного поиска конкретного файла обычный поиск проще и предсказуемее. Для ответов по документам важна именно цитата. Выбор зависит от задачи.
Нужно ли дообучать модель для RAG?
Обычно нет. RAG работает с внешним корпусом и не меняет веса модели. Дообучение нужно для стиля, формата или специфического поведения. Для фактов и документов достаточно переиндексации, которая дешевле и быстрее полного обучения. Проверка на своих примерах показывает необходимость дообучения в вашем случае.
Как часто обновлять индекс?
Индекс обновляется по регламенту: при изменении документа, по расписанию или по событию. Частота зависит от динамики корпуса. Важнее не частота, а правило: кто добавляет документ, как удаляются старые версии и кто проверяет результат. Регламент согласуется с владельцем корпуса и утверждается.
Сколько стоит RAG-система?
Пилот начинается от 250 000 ₽ и занимает 3–5 недель. Рабочее решение — от 600 000 ₽, закрытый контур — от 900 000 ₽. Стоимость зависит от объёма корпуса, источников, прав и контура данных. Сопровождение считается отдельно. Цены указаны как «от», без вилок и скрытых строк.
Можно ли сделать RAG без облака?
Да, на собственном сервере с локальной моделью и локальным индексом. Данные не покидают контур, но требуется оборудование и обслуживание. На малых объёмах облако дешевле; расчёт делается до покупки. Для закрытого контура требуется обслуживание оборудования, обновления и мониторинг. Это влияние на стоимость.
Как понять, что RAG отвечает плохо?
Собрать контрольные вопросы и посмотреть метрики: полноту поиска, точность, согласованность ответа с контекстом. Дополнительно разобрать спорные ответы вручную. Если поиск не находит документ, проблема в корпусе или чанкинге, а не в модели. Метрики фиксируются до пилота и не меняются в процессе.
Итоги
- RAG соединяет поиск и генерацию, поэтому ответ опирается на документы.
- Ссылка на источник делает ответ проверяемым.
- Качество определяется корпусом, чанкингом и поиском.
- Гибридный поиск и реранкер повышают точность, но добавляют задержку.
- Метрики считаются на контрольном наборе вопросов.
- RAG не устраняет галлюцинации полностью.
- Дообучение и RAG решают разные задачи и могут сочетаться.
RAG стоит начинать с одного корпуса и 20–30 реальных вопросов: такой пилот показывает, работает ли поиск на ваших документах.