RAG – это способ, при котором нейросеть отвечает по вашим документам. Сначала система ищет в базе подходящие фрагменты, потом модель пишет ответ только по ним.
Расшифровка: Retrieval-Augmented Generation, генерация с поиском. Без RAG модель отвечает по памяти. Про ваши цены, договоры и регламенты она ничего не знает. С RAG у неё перед глазами нужные страницы.
Я собрал так ИИ-консультанта для сайта своей компании: база из 159 страниц, 1 610 фрагментов, ответ за 4–5,5 секунды и около 0,25 ₽ за ответ. Ниже покажу, как это работает по шагам, где RAG ошибается и какие готовые инструменты есть на октябрь 2026.
RAG что это простыми словами
Представьте экзамен с открытой книгой. Студент не помнит всё наизусть, зато умеет быстро найти нужный абзац и пересказать его своими словами. RAG делает с языковой моделью то же самое.
Пример. Клиент пишет боту на сайте: сколько стоит бухгалтерия для ИП на упрощёнке? Система находит в базе 3–5 кусков текста из прайса и описания услуги. Модель получает вопрос вместе с этими кусками и пишет ответ.
Термин появился в 2020 году в научной статье Патрика Льюиса с соавторами. Сегодня так называют весь класс решений. В документации Anthropic RAG описан как связка поиска информации и генерации текста: нужное достают из базы знаний в момент вопроса и передают модели вместе с запросом. В Yandex AI Studio это называют генеративным ответом с учётом информации из внешних источников.
Если путаетесь в терминах, загляните в словарь ИИ. Что такое сама языковая модель, разобрал в статье LLM: что это.
Как работает RAG-система по шагам
Под капотом пять шагов. Первые два делаются один раз при загрузке базы, остальные на каждый вопрос.
- Нарезка. Документы режут на фрагменты. Anthropic советует фрагменты обычно не длиннее нескольких сотен токенов, то есть от абзаца до страницы текста.
- Эмбеддинги. Каждый фрагмент превращают в набор чисел, который описывает его смысл. У модели Embeddings от GigaChat это 1 024 числа. Тексты, близкие по смыслу, получают близкие наборы чисел.
- Векторный поиск. Вопрос клиента тоже превращают в числа и ищут фрагменты с самыми близкими значениями. Часто к нему добавляют обычный поиск по словам: он лучше находит артикулы, коды ошибок и фамилии. В Yandex AI Studio поиск по умолчанию работает именно так, в гибридном режиме.
- Подстановка в промпт. Модель получает инструкцию, вопрос и найденные фрагменты. В инструкции обычно пишут: отвечай только по этим материалам, если ответа нет, так и скажи.
- Ответ со ссылками. Модель пишет ответ, и система может показать, из какого файла взят факт. Такие ссылки на источник отдают File Search в OpenAI и поиск по файлам в Yandex AI Studio.
Вывод простой: модель в RAG почти не меняется. Всё качество зависит от того, что лежит в базе и что нашёл поиск.
Как это устроено в моём консультанте
Консультант отвечает клиентам на сайте компании по бухгалтерскому аутсорсингу. От решения до работы на живом сайте прошло 3 дня, с 4 по 6 августа 2026.
- База: 159 страниц сайта, разрезанные на 1 610 фрагментов. Услуги, цены, условия, статьи.
- Поиск: модель, которая подбирает подходящие фрагменты, работает прямо на нашем сервере.
- Ответ: пишет открытая модель GPT OSS 120B в российском облаке Timeweb. Полный ответ приходит за 4–5,5 секунды, первое слово появляется примерно через 2 секунды.
- Цена: 68 ₽ за миллион токенов, это около 0,25 ₽ за ответ. Тысяча ответов клиентам стоит примерно 250 ₽.
- Заявки: когда клиент оставляет телефон, заявка с перепиской уходит в Битрикс24 и в Telegram команде.
Если ответа в базе нет, бот предлагает оставить контакт, и вопрос разберёт специалист. Подробно про запуск рассказал в статье ИИ-консультант для сайта за 3 дня.
Чем RAG отличается от дообучения и длинного контекста
Есть три способа дать модели ваши знания. Их часто путают.
| Способ | Что происходит | Когда подходит | Слабое место |
|---|---|---|---|
| RAG | На каждый вопрос в промпт подкладывают найденные фрагменты | База большая и часто меняется, нужны ссылки на источник | Плохой поиск или старые документы дают плохой ответ |
| Дообучение (fine-tuning) | Модель доучивают на сотнях примеров правильных ответов | Нужен стабильный формат, стиль или узкая задача | Новые цены и правила требуют нового обучения |
| Длинный контекст | Всю базу целиком кладут в промпт | База небольшая, до нескольких сотен страниц | Каждый вопрос несёт с собой всю базу, это дороже и медленнее |
OpenAI в руководстве по точности моделей разделяет так. Работать с контекстом (это и есть RAG) нужно, когда модели не хватает знаний: их не было в обучении, они устарели или они закрытые. Дообучать модель нужно, когда она отвечает нестабильно и путает формат.
Про длинный контекст Anthropic пишет прямо: если база знаний меньше 200 000 токенов, это около 500 страниц, можно положить её в промпт целиком. С кэшированием промпта это, по их данным, быстрее больше чем в 2 раза и до 90% дешевле.
Мой вывод для бизнеса: прайс на 20 страниц проще отдать модели целиком. Сайт, база договоров или регламенты на тысячи страниц живут в RAG. Дообучение нужно редко, и точно не для того, чтобы модель запомнила ваши цены.
Где RAG применяют в бизнесе
- Консультант на сайте. Отвечает клиентам по вашим услугам и ценам вечером и в выходные, берёт контакт и передаёт заявку менеджеру.
- База знаний для сотрудников. Новичок спрашивает, как оформить возврат или где шаблон акта, и получает ответ со ссылкой на нужный регламент. Вместо того чтобы дёргать старших коллег.
- Поиск по договорам и регламентам. Юрист или бухгалтер спрашивает, в каких договорах есть пени выше определённого процента, и получает список с пунктами. Решение всё равно принимает человек, бот только находит.
- Техподдержка. Бот отвечает по инструкциям к продукту и передаёт человеку то, чего в инструкциях нет.
Общее у всех сценариев одно: ответ есть в ваших документах, просто его долго искать.
Ошибки RAG и как их ловить
1. Плохая нарезка. В документации Yandex AI Studio честно написано: автоматическое деление на фрагменты не учитывает смысл, текст может разорваться посреди предложения. Anthropic приводит пример: фрагмент говорит, что выручка компании выросла на 3% за квартал. Какой компании и за какой квартал, из фрагмента непонятно, и поиск его не найдёт.
Что делать: резать по смысловым блокам (раздел, услуга, вопрос из FAQ) и добавлять к каждому фрагменту заголовок страницы. Anthropic в своих тестах дописывал к фрагментам короткий контекст, добавил поиск по словам и пересортировку результатов. Доля неудачных поисков среди 20 лучших фрагментов упала на 67%.
2. Устаревшие документы. Если в базе лежат прайс 2025 года и прайс 2026 года, бот может взять любой. Держите одну актуальную версию и обновляйте базу сразу после правок на сайте или в регламенте.
3. Модель всё равно выдумывает. RAG снижает риск галлюцинаций, но не убирает его. Мой консультант при живой базе выдумал цену от 80 000 ₽, которой нигде не было. Ещё называл налоговые ставки и обещал записать клиента на звонок до того, как тот оставил телефон.
Запрет в инструкции модель слушает не всегда. Поэтому всё про деньги, ставки и обещания у меня проверяют фильтры в коде до того, как ответ увидит клиент. Нет цены в базе, значит клиент увидит фразу про расчёт на диагностике, что бы модель ни написала.
4. Поиск ничего не нашёл. Тогда модель тянется ответить по памяти. Лечится инструкцией и проверкой: если подходящих фрагментов нет, бот говорит, что уточнит специалист, и просит контакт.
Чат-бот для документов: готовые инструменты на октябрь 2026
Писать RAG с нуля не обязательно. Вот что есть из российских сервисов и открытых библиотек.
- AI-агенты Timeweb Cloud. База знаний создаётся в панели управления: загружаете файлы (до 100 за раз, каждый до 50 МБ), сервис индексирует их сам. Агента можно встроить на сайт как чат или подключить ботом в Telegram и Макс. Подходит без программиста.
- SaluteBot от Сбера. Бот по документам на GigaChat собирается в интерфейсе: загружаете PDF, тестируете, подключаете к каналу. Ограничения: только PDF или веб-страницы, до 300 000 слов на проект, файл до 50 МБ, только русский язык.
- Yandex AI Studio. Инструмент поиска по файлам работает с PDF, сканами, таблицами, аудио и видео до 1,55 ГБ. Поисковый индекс вмещает до 10 000 файлов по 128 МБ, в ответе можно показать файл-источник. По документации агент с поиском по файлам собирается через API, готового агента публикуют в Telegram, MAX или веб-виджет на сайте. Понадобится разработчик хотя бы на настройку.
- GigaChat API. Отдельные модели эмбеддингов для своей сборки, 14 ₽ за миллион токенов на октябрь 2026.
- Открытые библиотеки LangChain и LlamaIndex. Бесплатные, лицензия MIT. Дают готовые блоки для загрузки, нарезки, эмбеддингов, хранения и поиска. Это инструмент для программиста.
Что выбрать бизнесу без программиста
Мой порядок действий:
- Соберите 30 реальных вопросов от клиентов или сотрудников. Из чатов, почты, звонков.
- Почистите базу. Одна актуальная версия прайса и регламентов, без архивов и черновиков.
- Попробуйте конструктор. Для внутренней базы знаний хватит Timeweb или SaluteBot. Загрузите документы и прогоните свои 30 вопросов.
- Задайте неудобные вопросы. Про цены, которых нет, про сроки, про гарантии. Посмотрите, где бот выдумывает.
- Решите по результату. Бот для сотрудников с редкими ошибками можно оставить в конструкторе. Бот для клиентов, который говорит про деньги и сроки, требует фильтров в коде, и тут уже нужен разработчик.
Как вы думаете, сколько из ваших 30 вопросов бот закроет сам? Обычно это видно за один вечер тестов.
Если хотите консультанта на сайт с базой по вашим страницам и фильтрами от выдумок, посмотрите, как я его внедряю, на странице ИИ-консультант для сайта. Можно начать с бесплатного созвона на 30 минут.
Источники
- Lewis и др. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, 2020
- Anthropic: глоссарий, определение RAG и fine-tuning
- Anthropic: Contextual Retrieval, база до 200 000 токенов, размер фрагментов, минус 67% неудачных поисков
- OpenAI: руководство по точности моделей, RAG и дообучение
- OpenAI: File Search, ссылки на файлы в ответе
- Yandex AI Studio: поисковые индексы Vector Store
- Yandex AI Studio: инструмент поиска по файлам
- Yandex AI Studio: текстовые агенты и каналы публикации
- Yandex Cloud: новые возможности поиска по файлам, март 2026
- Timeweb Cloud: базы знаний AI-агентов
- Timeweb Cloud: AI-агенты
- SaluteBot: создание бота по документам
- GigaChat: модель Embeddings, размерность и цена
- LangChain: как построить RAG
- LlamaIndex: этапы RAG
