RAG (Retrieval Augmented Generation)

RAG (Retrieval-Augmented Generation, или «поисковая дополненная генерация») — это архитектурный подход, который позволяет языковой модели (LLM) искать информацию во внешних источниках и использовать найденные данные для формирования ответа. Простыми словами, RAG соединяет поиск по базе знаний и генерацию текста: сначала система находит релевантные сведения, затем LLM формирует ответ на их основе.

RAG используют, когда обычных знаний языковой модели недостаточно: например, нужно отвечать по внутренним регламентам компании, договорам, базе знаний, инструкциям, CRM или другим постоянно обновляемым данным. В отличие от дообучения модели, документы можно обновлять непосредственно в источнике, не переобучая саму LLM.

Упрощённая схема работы RAG:
Корпоративные данные → поиск → релевантные фрагменты → контекст → LLM → ответ

 

RAG — что это такое: схема работы Retrieval-Augmented Generation с корпоративными данными и LLM
RAG объединяет поиск релевантной информации в корпоративных данных и генерацию ответа с помощью LLM: документы → поиск → контекст → AI-ответ

В этой статье разберём, что такое RAG в искусственном интеллекте, как устроена RAG-система, из каких компонентов состоит RAG-архитектура, чем RAG отличается от LLM и дообучения (fine-tuning), как работают эмбеддинги (embeddings), разбиение на чанки (chunking), векторная база данных, поиск (retrieval) и переранжирование (reranking), а также где RAG применяется в бизнесе и корпоративном поиске.

Что такое RAG простыми словами: расшифровка

RAG — это система, в которой искусственный интеллект сначала ищет нужную информацию во внешней базе знаний, а затем передаёт найденный контекст языковой модели для генерации ответа. Поэтому RAG можно представить как связку из двух основных функций: retrieval (поиск и извлечение) + generation (генерация ответа).

Аббревиатура RAG расшифровывается как Retrieval-Augmented Generation — «поисковая дополненная генерация» или «генерация с дополненной выборкой». Каждая буква означает этап работы: R — поиск (Retrieval), A — дополнение (Augmented), G — генерация (Generation).

Представим обычную LLM. Пользователь задаёт вопрос, а модель формирует ответ на основе закономерностей, которые она выучила во время обучения.

Теперь добавим RAG.

Пользователь задаёт вопрос → система ищет ответ в подключённой базе знаний → выбирает подходящие фрагменты → передаёт их LLM → модель формирует ответ с учётом найденного контекста.

Например, сотрудник спрашивает:

«Какие документы нужны для оформления командировки в Казахстан?»

RAG-система может найти актуальный регламент командировок, инструкцию бухгалтерии и соответствующую форму заявления. LLM получает эти фрагменты и формирует понятный ответ вместо того, чтобы пытаться вспомнить правила из обучающих данных

RAG в искусственном интеллекте: зачем нужен и как работает

RAG в искусственном интеллекте нужен для подключения языковой модели к актуальным, специализированным или закрытым данным без необходимости постоянно переобучать модель. Это особенно важно для корпоративных AI-систем, где информация хранится в документах, базах знаний, CRM, ERP, Wiki, Service Desk и других внутренних системах.

У компании может быть тысячи документов:

  • регламенты;
  • инструкции;
  • договоры;
  • коммерческие предложения;
  • базы знаний;
  • техническая документация;
  • кадровые документы;
  • внутренние политики;
  • данные CRM;
  • обращения пользователей;
  • материалы Service Desk.

LLM сама по себе не получает автоматический доступ к этим данным. RAG создаёт промежуточный слой, который позволяет найти нужную информацию, отфильтровать её и передать модели в качестве контекста.

Какие задачи решает RAG

RAG особенно полезен там, где одновременно важны актуальность данных, работа с большим объёмом документов и проверяемость ответа.

Основные задачи:

  • Ответы по корпоративной базе знаний. Сотрудник задаёт вопрос обычным языком и получает ответ на основе внутренних документов.
  • Корпоративный поиск. Система находит не просто документ, а конкретные фрагменты, относящиеся к запросу.
  • AI-помощник. RAG становится источником знаний для виртуального сотрудника или AI-агента.
  • Клиентская поддержка. Модель отвечает по актуальным инструкциям, продуктовой документации и базе знаний.
  • Работа с нормативными документами. Система помогает находить нужные пункты регламентов и формировать краткие ответы.
  • Анализ документов. LLM получает релевантные фрагменты и может делать по ним выжимки, сравнения и структурированные выводы.

Как работает RAG-система

RAG-система работает в два связанных контура: сначала документы подготавливаются и индексируются, затем при каждом запросе пользователя система ищет релевантные фрагменты и передаёт их LLM для генерации ответа.

Основные этапы работы RAG-системы

Таблица 1. Этапы работы RAG-системы (от данных к ответу)
Этап Что происходит Зачем это нужно
1. Индексация (Chunking) Документ разбивается на мелкие смысловые куски (чанки). Чтобы искать не весь документ целиком, а конкретный абзац.
2. Векторизация (Embeddings) Текст чанка превращается в числовой вектор — Эмбеддинг (embedding). Для семантического поиска по смыслу, а не по словам.
3. Поиск (Retrieval) Система ищет в базе векторы, наиболее близкие к запросу пользователя. Чтобы найти тот самый «учебник» или «регламент».
4. Генерация (Generation) Найденный контекст + запрос передаются в LLM. Модель пишет ответ. Формируется точный, аргументированный ответ для пользователя.

Эти четыре этапа являются ядром любой RAG-системы. На практике перед ними или между ними могут добавляться дополнительные шаги: очистка данных, фильтрация по правам доступа, переранжирование результатов (reranking), сжатие контекста. Но именно эта последовательность определяет базовую логику работы RAG.

Два контура RAG-системы

Важно разделять подготовку базы знаний (этапы 1–2) и обработку пользовательского запроса (этапы 3–4). Это позволяет понять, где именно возникает ошибка или проблема в RAG.

Контур 1. Индексация и подготовка данных:

Источники → загрузка → извлечение текста → очистка → разбиение на чанки (chunking) → векторизация (embeddings) → индекс / векторная БД (Vector DB)

На вход могут поступать: PDF, DOCX, HTML, Wiki, базы знаний, CRM, ERP, Service Desk, внутренние порталы, файловые хранилища, API внешних систем.

Система извлекает текст и метаданные, очищает данные, разбивает документы на чанки, каждый чанк преобразует в вектор (embedding) и сохраняет в индексе (векторной БД).

Контур 2. Обработка запроса пользователя:

Вопрос пользователя → обработка запроса → поиск (retrieval) → фильтрация → переранжирование (reranking) → формирование контекста → LLM → ответ

Например:

«Какие сроки согласования договора с новым поставщиком?»

Система должна понять смысл запроса, найти подходящие документы, выбрать релевантные фрагменты, проверить их приоритет, сформировать компактный контекст, передать его LLM, получить ответ и при необходимости показать источники.

Качество RAG зависит не только от самой LLM. Не менее важны качество данных, разбиение на чанки, эмбеддинги, поиск, фильтрация и переранжирование.

Как RAG формирует ответ: простой пример

Допустим, в компании есть три документа: «Регламент закупок», «Положение о согласовании договоров», «Инструкция по работе с поставщиками». Сотрудник спрашивает:

«Кто согласовывает договор с поставщиком на сумму 5 млн рублей?»

RAG выполняет поиск и обнаруживает релевантные фрагменты во втором и третьем документах. Затем:

Вопрос → найденные фрагменты → контекст → LLM → ответ + источники

В результате сотрудник получает не список из 300 документов, а готовый ответ, например:

Договоры с поставщиками на сумму свыше установленного лимита требуют согласования финансового директора и руководителя юридической службы. Основание: Положение о согласовании договоров, редакция от 12.08.2026.

Такой подход особенно полезен для корпоративного поиска, где пользователю важен не сам факт нахождения документа, а быстрый ответ на конкретный вопрос.

RAG и LLM: в чём разница

LLM — это языковая модель, которая понимает запрос и генерирует текст, а RAG — архитектура, которая подключает к LLM внешние источники данных. Поэтому RAG и LLM не конкурируют друг с другом: RAG использует LLM как генератор ответа, а сам отвечает за поиск и передачу релевантного контекста.

RAG и LLM: сравнение

Характеристика LLM RAG-система
Что это Языковая модель Архитектура работы с внешними знаниями
Генерация ответа Да Через LLM
Поиск по внешним данным Не является обязательной функцией Да
Работа с актуальными документами Ограничена знаниями модели Да, если источник подключён и индекс обновляется
Векторный поиск Не обязателен Часто используется
Корпоративная база знаний Подключается отдельно Один из основных сценариев
Источники ответа Не обязательны Можно передавать и показывать пользователю
Обновление корпоративных знаний Не решается простым добавлением документа в модель Можно обновить внешний индекс без переобучения LLM

Простая схема:

Внешние данные → поиск (retrieval) → релевантный контекст → LLM → ответ

Именно поэтому RAG-модель — не совсем корректное название. Технически RAG не является отдельной языковой моделью. Это подход или архитектура, в которой LLM получает найденные во внешних источниках данные и использует их при генерации ответа.

Чем RAG отличается от обычной LLM

Главное отличие — источник информации в момент формирования ответа.

Обычная LLM отвечает преимущественно на основе знаний, представленных в её параметрах. RAG перед генерацией ответа выполняет поиск по подключённым внешним источникам и передаёт найденные фрагменты в контекст LLM.

LLM генерирует ответ, RAG помогает найти информацию, на которой этот ответ должен основываться.

Обычный поиск возвращает найденные документы, семантический поиск ищет документы по смыслу, а RAG использует найденную информацию для формирования готового ответа с помощью LLM.

Подход Что делает Что получает пользователь
Ключевой поиск Ищет совпадения слов Список документов
Семантический поиск Ищет по смысловой близости Более релевантные документы и фрагменты
Гибридный поиск (hybrid search) Объединяет ключевой и семантический поиск Более устойчивую выдачу
RAG Ищет информацию и передаёт её LLM Готовый ответ на основе найденного контекста

Например, пользователь вводит:

«Как оформить отпуск за свой счёт?»

Классический поиск может искать документы, содержащие слова «отпуск» и «за свой счёт». Семантический поиск способен найти документ с формулировкой «Предоставление отпуска без сохранения заработной платы». RAG идёт дальше: он использует найденный фрагмент и формирует понятную инструкцию для сотрудника.

Поэтому RAG не отменяет поиск. Наоборот, качество поиска становится одним из ключевых факторов качества всей RAG-системы.

RAG или дообучение (fine-tuning): в чём разница

RAG и дообучение (fine-tuning) решают разные задачи: RAG подключает внешние знания к модели во время запроса, а дообучение изменяет поведение самой модели за счёт дополнительного обучения.

Критерий RAG Дообучение (Fine-tuning)
Что меняется Доступ модели к знаниям Поведение модели
Обновление фактов Простое обновление базы Требует нового обучения
Работа с часто меняющимися документами Подходит Неоптимально
Фирменный стиль ответа Не основная задача Подходит
Специализированный формат ответа Ограниченно Хорошо подходит
Ссылки на источники Можно реализовать Само по себе не решает задачу
Корпоративный поиск Подходит Не заменяет поиск
Основная задача Дать модели нужный контекст Научить модель определённому поведению
RAG отвечает на вопрос «какие знания дать модели сейчас?», а дообучение (fine-tuning) — «как должна вести себя модель?».

В некоторых проектах эти подходы комбинируют: дообучение отвечает за специализированное поведение модели, а RAG — за доступ к актуальным корпоративным данным.

RAG-архитектура: компоненты и схема работы

RAG-архитектура строится на взаимодействии двух основных контуров: контура индексации (подготовка данных) и контура запроса (обработка вопроса пользователя). В production-системе каждый из этих контуров включает несколько обязательных компонентов.

Контур индексации (подготовка данных)

Источники → загрузка (ingestion) → извлечение данных (parsing) → очистка → разбиение на чанки (chunking) → эмбеддинги (embeddings) → индекс / векторная БД (Vector DB)

Задача этого контура — превратить сырые документы (PDF, Word, базы знаний) в структурированный индекс, который можно быстро искать.

Контур запроса (обработка вопроса)

Вопрос пользователя → обработка запроса → поиск (retrieval) → фильтрация → переранжирование (reranking) → формирование контекста → LLM → ответ

Здесь система находит нужные данные и использует их для генерации финального ответа.

Основные компоненты RAG-архитектуры

Компонент Роль в системе Примеры технологий
Источники данных Предоставляют корпоративные знания Confluence, SharePoint, 1С, файловые шары
Загрузка и извлечение (Parser / Ingestion) Извлекает и очищает текст из разных форматов LangChain Loaders, Unstructured.io
Разбиение на чанки (Chunking) Разбивает документы на смысловые фрагменты (чанки) RecursiveCharacterTextSplitter, семантический сплиттер
Эмбеддинги (Embedding-модель) Создаёт векторные представления текста OpenAI Ada, Cohere, BGE, E5, RuBERT
Векторная БД / Индекс (Vector DB) Хранит и ищет векторные представления данных Pinecone, Milvus, Qdrant, pgvector
Поиск (Retriever) Находит релевантные фрагменты по запросу Векторный поиск, BM25, гибридный поиск (Hybrid Search)
Переранжирование (Reranker) Дополнительно ранжирует найденные результаты Cohere Rerank, cross-encoders
Формирование контекста (Context Builder) Формирует финальный промпт для LLM LangChain, LlamaIndex
LLM (Генератор) Генерирует итоговый ответ на основе контекста GPT-4, YandexGPT, GigaChat, Llama 3
Оценка и мониторинг (Evaluation / Monitoring) Контролирует качество и производительность Ragas, Phoenix, DeepEval

Важно: RAG-архитектура — это не просто LLM + векторная база данных. Качество системы определяется всей цепочкой: от качества исходных документов и разбиения на чанки до поиска, переранжирования и генерации ответа.

Что такое разбиение на чанки (chunking) и эмбеддинги (embeddings) в RAG

Разбиение на чанки (chunking) — это процесс разделения документов на небольшие смысловые фрагменты (чанки), которые система может отдельно индексировать и находить. Эмбеддинги (embeddings) — это числовые векторы, в которые преобразуются эти фрагменты для семантического поиска.

Эти два компонента определяют, насколько хорошо RAG-система сможет находить нужную информацию.

Почему разбиение на чанки так важно

Если документ содержит 50 страниц, передавать его целиком в поиск обычно неэффективно. Но и слишком мелкие чанки создают проблему: отдельный фрагмент может потерять связь с заголовком, условиями или предыдущим пунктом инструкции.

Как выбирать размер чанка?

Размер чанка Когда использовать Риски
Маленький (100–200 токенов) Точные фактологические вопросы, FAQ Потеря контекста, обрывание смысла
Средний (300–500 токенов) Универсальный вариант для большинства задач Может включать лишнюю информацию
Большой (500–1000+ токенов) Документы с сильной логической связью Шум в контексте, превышение лимита токенов

Популярные модели эмбеддингов для RAG

  • BGE (BAAI General Embedding) — одна из лучших открытых моделей, поддерживает русский язык.
  • E5 — хорошо работает для поисковых задач.
  • OpenAI text-embedding-ada-002 — качественная, но платная.
  • Cohere embed — хороша для корпоративных данных.
  • RuBERT — российская модель, оптимизированная под русский язык.

RAG и векторная база данных

RAG и векторная база данных — это не синонимы. Векторная БД — один из компонентов RAG-архитектуры, который используется для хранения эмбеддингов и поиска семантически близких фрагментов.

Полная схема работы векторной БД в RAG:

Документ → чанк (chunk) → эмбеддинг (embedding) → векторная БД (Vector DB)

При запросе:

Запрос → эмбеддинг (embedding) → поиск похожих векторов → найденные чанки → LLM

Сравнение популярных векторных БД для RAG

Векторная БД Особенности Когда использовать
Pinecone Облачная, высокая производительность Корпоративные проекты
Milvus Open-source, масштабируемая Крупные проекты с большим объёмом данных
Qdrant Open-source, хорошая производительность Универсальный вариант для средних проектов
pgvector Расширение для PostgreSQL Если данные уже в PostgreSQL
Elasticsearch Гибридный поиск (векторный + лексический) Когда нужен не только векторный, но и ключевой поиск

Можно ли использовать RAG без векторной базы данных? Да. Вместо специализированной векторной БД можно использовать поисковые системы с гибридным поиском (Elasticsearch) или реляционные БД с векторным расширением (pgvector).

Поиск (retrieval), гибридный поиск (hybrid search) и переранжирование (reranking)

Поиск (retrieval) — это этап, на котором система находит среди проиндексированных данных фрагменты, наиболее подходящие для ответа на запрос пользователя. От качества поиска зависит, получит ли LLM правильный контекст.

Виды поиска в RAG

Тип поиска Как работает Когда лучше
Векторный поиск Ищет по семантической близости векторов Естественные вопросы, смысловые запросы
Лексический поиск (BM25) Ищет по совпадению ключевых слов Технические запросы, коды ошибок, точные термины
Гибридный поиск (hybrid search) Объединяет векторный и лексический поиск Универсальный вариант для корпоративных данных

Что такое BM25 и зачем он нужен

BM25 (Best Matching 25) — это алгоритм лексического поиска, который оценивает релевантность документа запросу на основе частоты терминов и их распределения в документе. В отличие от векторного поиска, BM25 не понимает смысл, но отлично находит точные совпадения.

Переранжирование (reranking): почему недостаточно просто найти 10 чанков

Переранжирование (reranking) — это дополнительный этап, на котором найденные фрагменты повторно оцениваются и сортируются по релевантности конкретному запросу.

10 000 документов → поиск (retriever) → 100 кандидатов → переранжирование (reranker) → 10 наиболее релевантных → контекст → LLM

  • Поиск (retriever) работает быстро и отбирает широкий набор кандидатов, но может ошибаться в точной релевантности.
  • Переранжирование (reranker) выполняет более точную оценку уже небольшого количества результатов.

Какие бывают виды RAG

Современные виды RAG отличаются сложностью обработки запросов: от простого базового (Naive) до агентных систем и графовых решений.

Вид RAG Особенности Когда использовать
Базовый RAG (Naive RAG) Простая схема: запрос → поиск → ответ Маленькие FAQ и простые инструкции
Расширенный RAG (Advanced RAG) Добавляет переписывание запроса и переранжирование Стандарт для большинства бизнес-задач
Модульный RAG (Modular RAG) Гибкая архитектура с заменяемыми компонентами Крупные корпорации с гетерогенными данными
Агентный RAG (Agentic RAG) Итеративный поиск с несколькими агентами Сложные многошаговые запросы и исследования
Графовый RAG (GraphRAG) Учёт связей между сущностями через граф знаний Запросы, требующие понимания взаимосвязей

Агентный RAG (Agentic RAG) — это архитектура, где система итеративно уточняет запросы и проверяет полноту данных. Несколько агентов анализируют вопрос, разбивают его на подзадачи и при необходимости запускают дополнительный поиск.

Графовый RAG (GraphRAG) интегрирует графы знаний с векторными эмбеддингами. Система понимает не только отдельные фрагменты текста, но и связи между ними (например, «сотрудник → отдел → проект → бюджет»).

RAG для бизнеса: где применяется

RAG для бизнеса — это инструмент, который позволяет использовать генеративный ИИ с конфиденциальными и постоянно обновляющимися корпоративными данными.

RAG для бизнеса — корпоративный поиск и AI-помощник с доступом к CRM, базе знаний, ERP и документам
RAG-система объединяет корпоративные источники данных и помогает сотрудникам получать ответы с опорой на документы, регламенты, договоры и базы знаний.

Сценарии использования RAG в корпоративной среде

Бизнес-сценарий Источники данных Какую задачу решает RAG
Корпоративный поиск Wiki, база знаний, OneDrive Сотрудник получает готовый ответ, а не ссылки
Service Desk / Helpdesk Инструкции, история тикетов Бот моментально находит решение по ошибке
Юридический отдел Договоры, регламенты, ТК РФ Помогает юристам искать нужные пункты за секунды
HR и адаптация Политики компании, приказы Новый сотрудник получает точные ответы о порядке оформления отпуска
Продажи (Sales) CRM, коммерческие предложения Менеджер за секунду получает все условия по продукту

RAG для корпоративного поиска

RAG для корпоративного поиска превращает разрозненные внутренние документы и базы знаний в единый интерфейс поиска на естественном языке. В отличие от обычного поиска, который возвращает список документов, RAG даёт готовый ответ со ссылками на источники.

Вопрос сотрудника → поиск по корпоративным источникам → релевантные фрагменты → LLM → готовый ответ → ссылки на источники

Важное требование — права доступа. RAG для корпоративного поиска должен учитывать права пользователя на исходные данные. Это называют поиском с учётом прав доступа (Permission-Aware Retrieval).

RAG и AI-агенты

RAG и AI-агент — это разные, но дополняющие друг друга концепции. RAG отвечает за поиск знаний, AI-агент — за выполнение действий и планирование.

Характеристика RAG AI-агент
Основная задача Найти и передать знания Выполнить действие или достичь цели
Работа с инструментами Не обязательна Может вызывать API, инструменты, базы данных
Планирование Не требуется Да, разбивает задачу на шаги
Генерация ответа Да, через LLM Да, через LLM
Взаимодействие с пользователем Чаще однократное Может быть многошаговым

Важно: RAG может быть одним из инструментов AI-агента. Агент может использовать RAG, чтобы получить знания, а затем на их основе выполнить действие.

Преимущества и ограничения RAG

У RAG есть сильные стороны, но важно понимать и его ограничения.

Преимущества RAG

Преимущество Что даёт бизнесу
Актуальные данные Можно обновлять знания без переобучения модели
Работа с корпоративными данными Подключает закрытые и конфиденциальные источники
Не требует переобучения Экономия на вычислительных ресурсах
Проверяемость ответа Можно показывать источники
Быстрое обновление знаний Достаточно обновить источник или индекс
Контроль доступа Можно фильтровать по правам пользователя

Ограничения RAG

Ограничение Что нужно учитывать
Ошибки поиска (retrieval) Если поиск нашёл неправильный контекст, ответ будет неверным
Зависимость от качества данных Плохие или противоречивые документы ухудшают качество ответов
Дополнительная инфраструктура Нужна векторная БД, обработка данных, мониторинг
Задержка (latency) Поиск + генерация увеличивают время ответа
Стоимость Расходы на токены LLM, эмбеддинги, инфраструктуру
Риск промпт-инъекции (prompt injection) Злоумышленник может попытаться изменить поведение системы

Когда RAG не нужен

RAG может быть избыточным, если задача не требует работы с внешними или постоянно обновляемыми данными.

  • Данных мало и они помещаются в контекст модели.
  • Задача не требует внешних знаний (например, генерация рекламных текстов).
  • Нужен только определённый стиль генерации — лучше подойдёт дообучение (fine-tuning).
  • Задача решается обычным поиском.
  • Данные плохо структурированы.
  • Компания пока не готова поддерживать базу знаний.
  • Нужен не поиск знаний, а выполнение действий — тогда нужен AI-агент.

Как внедрить RAG в компании

Внедрение RAG должно начинаться не с покупки дорогой LLM, а с аудита ваших данных и бизнес-задачи.

  1. Определите бизнес-задачу. Например: «Сократить время ответа техподдержки с 2 часов до 5 минут».
  2. Определите источники данных. Начните с 2–3 ключевых источников.
  3. Очистите данные. Удалите дубли, устаревшие версии и противоречия.
  4. Выберите технологический стек. LangChain, BGE, Qdrant, YandexGPT и т.д.
  5. Настройте поиск (retrieval). Гибридный поиск + переранжирование + фильтрация по метаданным.
  6. Настройте формирование контекста. Ограничьте количество фрагментов, добавьте метаданные.
  7. Настройте оценку качества. Hit Rate, MRR, Faithfulness.
  8. Запустите пилотный проект. Один отдел, один источник данных.
  9. Измерьте бизнес-результат. Сравните показатели до и после.

Безопасность RAG-системы

Основная угроза корпоративного RAG — это утечка данных через промпт-инъекцию (prompt injection) или нарушение прав доступа.

Риск Что может произойти Как снижать риск
Нарушение прав доступа Пользователь получает закрытую информацию Фильтрация поиска по правам
Промпт-инъекция (prompt injection) Злоумышленник пытается изменить поведение системы Фильтрация и проверка входных данных
Устаревшие документы RAG использует старую информацию Контроль актуальности индекса
Некачественные данные Ответ строится на ошибочном источнике Очистка и валидация данных

Защита RAG-системы строится на трёх уровнях:

  1. Фильтрация по правам. Поиск должен учитывать роль пользователя.
  2. Сканирование промптов. Блокировка попыток «взломать» ИИ.
  3. Аудит логов. Все запросы и ответы логируются.

Как оценить качество RAG (KPI)

Качество RAG нельзя оценивать только по тому, «красивый» ли ответ дала LLM. Нужно смотреть на весь пайплайн.

1. Качество поиска (Retrieval Quality)

  • Hit Rate — нашла ли система нужный документ среди первых N результатов (цель > 0.85).
  • MRR — насколько релевантные результаты оказались на первых позициях (цель > 0.8).

2. Качество генерации (Generation Quality)

  • Faithfulness — соответствует ли ответ найденному контексту (цель > 0.85).
  • Answer Relevance — насколько ответ соответствует вопросу (цель > 0.8).

3. Бизнес-показатели

  • Время поиска информации — экономия времени сотрудников.
  • Доля эскалаций человеку — сколько запросов RAG не решает самостоятельно.
  • Resolution Rate — доля вопросов, решённых без дополнительной помощи.

Сколько стоит RAG-система

Стоимость внедрения RAG зависит от объёма данных, количества запросов, выбранной LLM, инфраструктуры и уровня безопасности.

Основные статьи затрат

Компонент Что влияет на стоимость
LLM (токены) Количество входящих и исходящих токенов на каждый запрос
Эмбеддинги (embeddings) Объём индексируемых документов
Векторная БД / инфраструктура Размер индекса, нагрузка, количество реплик
Поиск + переранжирование (retrieval + reranking) Количество поисковых операций и переранжирований
Разработка и интеграция Настройка пайплайна, подключение к CRM, Service Desk
Стоимость RAG-системы: основные расходы на LLM, embeddings, vector DB, retrieval, reranking и инфраструктуру
Стоимость RAG зависит от объёма данных, количества запросов, LLM, векторной базы данных, интеграций и требований к безопасности. Оптимизация retrieval и контекста помогает снизить расходы.

Ориентировочные цены (на август 2026 года)

Тип проекта Объём данных Примерная стоимость
Небольшой проект До 10 000 документов, до 1 000 запросов/день От 42 000 руб./мес.
Средний бизнес До 100 000 документов, 5 000–10 000 запросов/день От 170 000 руб./мес.
Крупная корпорация Миллионы документов, высокие требования к безопасности От 420 000 руб./мес. и выше

Что сильнее всего влияет на расходы: чем больше контекста передаётся LLM, тем больше токенов расходуется на запрос. Задача RAG — найти минимальный объём максимально релевантного контекста.

Заключение

RAG в 2026 году — это не просто подключение LLM к документам, а целая экосистема подходов: от классического базового RAG (Naive) до агентных систем (Agentic RAG) и графовых решений (GraphRAG).

Технология RAG решает ключевую проблему LLM — работу с актуальными и закрытыми данными.

Главное, что нужно запомнить:

  1. RAG — это не LLM. Это архитектура, которая подключает внешние знания к модели.
  2. Качество RAG определяется не только LLM. Не менее важны данные, разбиение на чанки, эмбеддинги, поиск, переранжирование.
  3. RAG не устраняет галлюцинации полностью. Он снижает их риск, но не исключает.
  4. RAG — это не панацея. Есть задачи, где он не нужен.

Следуя описанному чек-листу и уделяя внимание оценке качества на каждом этапе, вы сможете создать мощного ИИ-ассистента, который окупит вложения за счёт экономии времени сотрудников и повышения точности бизнес-решений.

ELMA Cortex помогает внедрить RAG в бизнес-процессы компании, обеспечивая интеграцию с корпоративными источниками данных, контроль доступа и безопасность. Подробнее о возможностях платформы вы можете узнать на нашем сайте: https://elma365.com/ru/products/ai-cortex/.

Читайте также:

Часто задаваемые вопросы (FAQ) о RAG

Что такое RAG простыми словами?

RAG (Retrieval-Augmented Generation) — это технология, при которой ИИ сначала ищет информацию в ваших документах, а затем формирует ответ на её основе. Вместо угадывания система находит факты и использует их для генерации.

Как расшифровывается RAG?

RAG расшифровывается как Retrieval-Augmented Generation — «поисковая дополненная генерация». Буквы означают: R — поиск, A — дополнение, G — генерация.

Для чего нужен RAG в искусственном интеллекте?

RAG нужен, чтобы LLM работала с актуальными, закрытыми и узкоспециализированными данными. Он снижает галлюцинации, позволяет обновлять знания без переобучения и подключать корпоративные документы к ИИ-ассистентам.

Чем RAG отличается от обычной LLM?

LLM отвечает на основе выученных данных, которые часто устаревают. RAG перед ответом обращается к внешнему источнику (вашей базе знаний) и передаёт найденный контекст в LLM, делая ответ точным и актуальным.

Чем RAG отличается от дообучения (Fine-tuning)?

Дообучение переучивает модель на новых данных — это дорого и медленно. RAG не меняет модель, а подключает к ней внешние знания во время запроса, что дешевле и позволяет обновлять данные мгновенно.

Зачем в RAG нужна векторная база данных?

Векторная БД хранит числовые «отпечатки» (эмбеддинги) документов. По запросу система превращает вопрос в такой же вектор и находит самые похожие по смыслу фрагменты — это позволяет искать по смыслу, а не по ключевым словам.

Можно ли использовать RAG без векторной базы данных?

Да. Вместо специализированной векторной БД можно использовать Elasticsearch с гибридным поиском или реляционные БД с векторным расширением (например, pgvector).

Решает ли RAG проблему галлюцинаций ИИ?

RAG значительно снижает галлюцинации, так как заставляет модель опираться на факты из контекста. Однако ошибки возможны, если в базе лежат противоречивые или устаревшие документы.

Что такое Agentic RAG?

Agentic RAG — это архитектура, где система итеративно уточняет запросы и проверяет полноту данных. Несколько агентов анализируют вопрос, разбивают его на подзадачи и при необходимости запускают дополнительный поиск.

Чем GraphRAG отличается от обычного RAG?

Обычный RAG ищет по смыслу отдельные фрагменты. GraphRAG дополнительно учитывает связи между сущностями через граф знаний, что повышает точность на сложных многошаговых запросах.

Какие новые модели RAG появились в 2026 году?

В 2026 году появились Agentic RAG от Google, мультимодальные решения NVIDIA Nemotron RAG, а также российская модель OCC-RAG от AIRI, которая отвечает строго по документам и отказывается генерировать ответ при недостатке данных.

Где применяется RAG в бизнесе?

RAG применяется для корпоративного поиска, Service Desk, юридических задач, HR, клиентской поддержки, продаж и закупок. Система даёт готовые ответы из внутренних документов, а не просто ссылки.

Что такое RAG для корпоративного поиска?

Это система, где сотрудник задаёт вопрос на естественном языке, а RAG находит ответ во внутренних документах и выдаёт готовый текст со ссылкой на источник — вместо списка ссылок.

Какие бывают виды RAG?

Базовый RAG (Naive) — простая схема. Расширенный RAG (Advanced) — с переписыванием запроса и переранжированием. Модульный RAG (Modular) — гибкая архитектура. Агентный RAG (Agentic) — итеративный поиск. Графовый RAG (GraphRAG) — учёт связей между сущностями.

Из каких компонентов состоит RAG-система?

Основные компоненты RAG: источники данных, разбиение на чанки (chunking), эмбеддинги (embeddings), векторная БД, поиск (retriever), переранжирование (reranker) и LLM для генерации ответа.

Что такое гибридный поиск в RAG?

Гибридный поиск (hybrid search) — это комбинация векторного (семантического) поиска и лексического (по ключевым словам). Система одинаково хорошо находит ответы как на смысловые вопросы, так и на точные технические запросы с кодами.

Как оценить качество RAG-системы?

Качество RAG оценивают по трём группам метрик: качество поиска (Hit Rate, MRR), качество генерации (Faithfulness, Answer Relevance) и бизнес-показатели (экономия времени, снижение нагрузки на экспертов).

Какие риски безопасности есть у RAG?

Основные риски RAG — утечка данных из-за непроверки прав доступа, промпт-инъекции (prompt injection) и использование устаревших документов. Защита: фильтрация прав, сканирование промптов и аудит логов.

Сколько стоит внедрение RAG?

Стоимость внедрения RAG складывается из расходов на инфраструктуру (векторная БД, хранилище), токенов для API LLM и разработки. Для небольших проектов — от 42 000 руб./мес., для крупных корпораций — от 170 000 руб./мес.

Когда RAG не нужен?

RAG избыточен, если задача не требует работы с внешними или часто обновляемыми данными. Для написания рекламных текстов, переписывания или классификации коротких сообщений достаточно обычной LLM.

Что такое RAG в искусственном интеллекте?

RAG в искусственном интеллекте — это архитектурный подход, соединяющий генеративные модели с внешними базами знаний. Он делает ответы ИИ точными, проверяемыми и актуальными за счёт поиска перед генерацией.

Что такое RAG-система?

RAG-система — это архитектурное решение, объединяющее поиск информации и генерацию текста в единый пайплайн. Она позволяет LLM работать с внешними источниками данных, выдавая точные ответы на вопросы.

Что такое RAG-архитектура?

RAG-архитектура — это совокупность компонентов: источники данных, разбиение на чанки (chunking), эмбеддинги (embeddings), векторная БД, поиск (retriever), переранжирование (reranker) и LLM для генерации ответа.

Что такое RAG-модель?

RAG-модель — распространённое, но технически неточное название. RAG не является отдельной языковой моделью, а представляет собой архитектуру, в которой LLM дополняется поиском по внешним источникам данных.

В чём разница между RAG и AI-агентом?

RAG отвечает за поиск и передачу знаний, AI-агент — за выполнение действий и планирование. RAG может быть одним из инструментов AI-агента для получения актуальной информации.