Главное

  • RAG = retrieval (поиск) + generation (генерация): модель отвечает по найденным фрагментам.
  • Ответ сопровождается ссылкой на источник, поэтому его можно проверить.
  • Качество зависит от корпуса, чанкинга и поиска сильнее, чем от модели.
  • Гибридный поиск сочетает точные термины и смысловое сходство.
  • Ошибки делятся на три этапа: поиск, контекст, генерация.

Содержание

Что такое RAG-система?

RAG расшифровывается как retrieval-augmented generation — генерация с дополненной выборкой. По описанию Microsoft, система извлекает релевантные документы, добавляет их в контекст модели и генерирует ответ. Шаблон объединяет два компонента: поиск информации и генерацию текста.

Ключевое отличие от обычной модели — опора на внешний корпус. Модель не «вспоминает» факт, а читает фрагмент и ссылается на него. Если документ обновился, достаточно переиндексировать его, чтобы ответ изменился. Источник ответа становится частью результата, а не скрытой деталью.

Чем RAG отличается от поиска и чат-бота

Поиск возвращает список документов, чат-бот ведёт диалог по сценарию, RAG формулирует ответ по найденным фрагментам. Чат-бот может не иметь корпуса вовсе; RAG без корпуса не работает. Для задач, где нужен именно список файлов, RAG избыточен.

Зачем нужен RAG?

RAG нужен там, где ответ разбросан по документам и требует проверки. Регламенты, инструкции, договоры, техническая документация — типичные примеры. Сотрудник задаёт вопрос обычным языком и получает ответ с цитатой, а не список ссылок для самостоятельного чтения.

Второй мотив — обновляемость. Дообучение модели дорого и не гарантирует актуальность; переиндексация документов дешевле и понятнее. Третий мотив — контроль доступа: можно ограничить, какие фрагменты видит конкретный сотрудник.

Когда RAG не нужен

Если ответ уже собран в готовую статью или скрипт, чат-бот по сценарию справится быстрее. Если вопросов мало и они не меняются, хватит обычной базы знаний с поиском. RAG не заменяет структуру: при противоречивых документах система будет уверенно цитировать оба варианта.

Из чего состоит RAG-система

Конвейер включает загрузку, разбиение, индексирование, поиск и генерацию. Этапы связаны: ошибка в чанкинге проявляется как «плохой ответ» на последнем шаге.

Загрузка и разбор документов

Документы приводятся к тексту: PDF, DOCX, HTML, таблицы. Сканы без текстового слоя требуют распознавания, иначе система видит пустой файл. Метаданные — дата, версия, владелец, права — сохраняются вместе с текстом.

Чанкинг

Текст режется на фрагменты, потому что весь корпус в контекст не помещается. Слишком мелкий фрагмент теряет смысл, слишком крупный размывает релевантность. Перекрытие сохраняет связь на границе разделов. Размер подбирается под документы и проверяется на контрольных вопросах, а не по общему правилу.

Эмбеддинги и векторная база

Каждый фрагмент превращается в вектор — числовое представление смысла. Векторы хранятся в базе: pgvector, Qdrant, Milvus, OpenSearch. Поиск находит ближайшие векторы к вопросу. Смена модели эмбеддингов требует полной переиндексации: векторы разных моделей несравнимы.

Поиск

Поиск возвращает кандидатов, которые попадут в контекст. Кроме векторного сходства применяются фильтры по правам, дате и типу документа. Число кандидатов ограничивается, иначе контекст переполняется и модель теряет главное.

Генерация

Модель получает вопрос и найденные фрагменты, формирует ответ и ссылки. Промпт задаёт правила: отвечать только по контексту, указывать источник, признавать отсутствие ответа. Валидатор проверяет формат и наличие ссылок.

Гибридный поиск и реранкер

Гибридный поиск сочетает BM25 по точным терминам и векторный поиск по смыслу. Точный поиск ловит аббревиатуры, артикулы и номера пунктов; векторный — перефразированные вопросы. Результаты сливаются, например через Reciprocal Rank Fusion, чтобы получить единый список.

Один тип поиска проигрывает: только вектор теряет артикулы, только BM25 — пересказы. Реранкер добавляет второй этап: пересортировывает кандидатов и поднимает самые релевантные. Он повышает точность, но добавляет задержку, поэтому включается после замера.

Как оценивают качество RAG

Качество измеряется на контрольном наборе вопросов с эталонными ответами. Метрики Ragas принимают значения от 0 до 1: faithfulness — согласованность ответа с контекстом, answer relevancy — соответствие вопросу, context recall — полнота найденного, context precision — положение релевантных фрагментов.

МетрикаЧто показываетЧто чинит
FaithfulnessОтвет не противоречит контекстуПромпт, валидатор
Answer relevancyОтвет отвечает на вопросПромпт, модель
Context recallПоиск нашёл всё нужноеЧанкинг, корпус
Context precisionНужное выше в выдачеГибрид, реранкер

В нашей практике ошибки чаще всего возникали из-за непривязанных к темам фрагментов, а не из-за модели. Ошибки разделяются на три этапа: поиск не нашёл, поиск нашёл не то, модель проигнорировала контекст. Разделение экономит время: при третьем типе меняют промпт, при первых двух — индекс и запрос. Подробная методика — в документации Ragas.

Где RAG ломается

PDF без текстового слоя

Скан без распознавания не индексируется. Система отвечает «не найдено», хотя документ есть. Решение — OCR до индексации и проверка доли таких файлов на аудите.

Устаревшие версии

Если старая и новая редакции лежат рядом, модель цитирует обе. Нужны версии, даты и правило приоритета. Без этого ответ формально верен и практически вреден.

Нет контрольного набора

Без эталонных вопросов невозможно отличить улучшение от перестановки фрагментов. Набор собирается из реальных вопросов сотрудников.

Переполнение контекста

Слишком много кандидатов размывает ответ: модель теряет главное. Число фрагментов ограничивается, лишние отбрасываются реранкером.

Галлюцинации остаются

RAG снижает риск, но не убирает его: модель может обобщить фрагменты неверно. Нужны валидатор, порог уверенности и передача человеку.

RAG против дообучения

Дообучение меняет веса модели и подходит для стиля, формата и типовых patterns. RAG подключает внешние знания и подходит для фактов, которые меняются. Смешивать задачи не стоит: дообучение не гарантирует актуальность документов, а RAG не научит модель новому стилю.

КритерийRAGДообучение
Источник знанийВнешний корпусВеса модели
ОбновлениеПереиндексацияНовый цикл обучения
Ссылка на источникЕстьОбычно нет
Стоимость обновленияНижеВыше
Когда выбиратьФакты и документыСтиль и формат

На практике схемы сочетаются: дообучение задаёт поведение, RAG поставляет факты.

Когда нужен свой RAG

Свой контур оправдан, когда данные нельзя выносить в облако, когда нужен контроль над индексом и правами или когда объём запросов делает внешний сервис дорогим. Для закрытого контура подбирается локальная модель; подбор и запуск описаны на странице GPU-сервер для локальных LLM.

Если требования мягче, начинают с облака и пилота на одном корпусе. Если RAG нужен как часть агента, который выполняет действия, смотрите ИИ-агенты для бизнеса. Пилот показывает, работает ли поиск на ваших документах, до промышленных затрат. Разработка под конкретный корпус — на странице RAG-система по базе знаний.

Частые вопросы

Что такое RAG простыми словами?

RAG — это поиск по документам плюс ответ языковой модели. Система находит нужные фрагменты, передаёт их модели и просит ответить по ним. В ответе указывается источник. Без поиска модель отвечала бы по памяти, а без модели пользователь получил бы просто список файлов.

Чем RAG лучше обычного поиска?

RAG даёт готовый ответ и ссылку, а поиск — список документов. Для перефразированных вопросов RAG удобнее, потому что ищет по смыслу. Для точного поиска конкретного файла обычный поиск проще и предсказуемее. Для ответов по документам важна именно цитата. Выбор зависит от задачи.

Нужно ли дообучать модель для RAG?

Обычно нет. RAG работает с внешним корпусом и не меняет веса модели. Дообучение нужно для стиля, формата или специфического поведения. Для фактов и документов достаточно переиндексации, которая дешевле и быстрее полного обучения. Проверка на своих примерах показывает необходимость дообучения в вашем случае.

Как часто обновлять индекс?

Индекс обновляется по регламенту: при изменении документа, по расписанию или по событию. Частота зависит от динамики корпуса. Важнее не частота, а правило: кто добавляет документ, как удаляются старые версии и кто проверяет результат. Регламент согласуется с владельцем корпуса и утверждается.

Сколько стоит RAG-система?

Пилот начинается от 250 000 ₽ и занимает 3–5 недель. Рабочее решение — от 600 000 ₽, закрытый контур — от 900 000 ₽. Стоимость зависит от объёма корпуса, источников, прав и контура данных. Сопровождение считается отдельно. Цены указаны как «от», без вилок и скрытых строк.

Можно ли сделать RAG без облака?

Да, на собственном сервере с локальной моделью и локальным индексом. Данные не покидают контур, но требуется оборудование и обслуживание. На малых объёмах облако дешевле; расчёт делается до покупки. Для закрытого контура требуется обслуживание оборудования, обновления и мониторинг. Это влияние на стоимость.

Как понять, что RAG отвечает плохо?

Собрать контрольные вопросы и посмотреть метрики: полноту поиска, точность, согласованность ответа с контекстом. Дополнительно разобрать спорные ответы вручную. Если поиск не находит документ, проблема в корпусе или чанкинге, а не в модели. Метрики фиксируются до пилота и не меняются в процессе.

Итоги

  • RAG соединяет поиск и генерацию, поэтому ответ опирается на документы.
  • Ссылка на источник делает ответ проверяемым.
  • Качество определяется корпусом, чанкингом и поиском.
  • Гибридный поиск и реранкер повышают точность, но добавляют задержку.
  • Метрики считаются на контрольном наборе вопросов.
  • RAG не устраняет галлюцинации полностью.
  • Дообучение и RAG решают разные задачи и могут сочетаться.

RAG стоит начинать с одного корпуса и 20–30 реальных вопросов: такой пилот показывает, работает ли поиск на ваших документах.

Автор: Максим Набиуллин, студия Максима Набиуллина (Уфа). Собирает RAG-системы и ИИ-агентов, запускает локальные модели, интегрирует сайты с 1С и маркетплейсами.