ИИ-поиск по документам компании: как работает RAG и что нужно для внедрения

В любой компании есть знания, которые сложно найти: регламенты, инструкции к оборудованию, технические условия, договоры, переписка с заказчиками. Новый сотрудник тратит дни, чтобы понять, где что лежит, а опытный отвечает коллегам на одни и те же вопросы. Языковые модели умеют отвечать на вопросы, но про ваши документы они ничего не знают. Подход RAG решает эту проблему.

Что такое RAG

RAG (retrieval-augmented generation, генерация с опорой на найденные данные) работает в два шага:

1. Поиск. На вопрос пользователя система находит в ваших документах несколько самых подходящих фрагментов.
2. Ответ. Языковая модель получает вопрос и найденные фрагменты и формулирует ответ только по ним, со ссылками на источники.

Модель не нужно переобучать на ваших данных. Документы остаются в вашем хранилище, а при их изменении достаточно обновить поисковый индекс.

Чем это лучше обычного поиска

• Понимает смысл, а не слова. На вопрос «сколько дней на согласование договора» найдётся пункт «срок рассмотрения проекта договора составляет…», хотя слов в нём других.
• Собирает ответ из нескольких мест. Если нужное разбросано по регламенту и приказу, ассистент сведёт это в один ответ.
• Показывает источник. Каждый ответ сопровождается ссылкой на документ и раздел, поэтому его легко проверить.

Из чего состоит система

Подготовка документов

Схема: что сделать с документами до пилота. Подробно в статье «Как подготовить документы компании для ИИ-ассистента».

Это самая трудоёмкая часть. Документы приводят к тексту: PDF, Word, сканы, таблицы, иногда чертежи. Сканы распознают, таблицы сохраняют в структурированном виде, у каждого фрагмента запоминают документ, раздел и дату. От качества этой подготовки ответы зависят сильнее, чем от выбора модели.

Поисковый индекс

Документы делят на фрагменты по смыслу, обычно по разделам и абзацам, и для каждого считают векторное представление. Хорошо работает гибридный поиск: смысловой плюс обычный по словам, чтобы точно находить номера ГОСТов, артикулы и коды.

Языковая модель

Модель формулирует ответ. Её можно запускать на серверах компании, если документы нельзя выносить наружу. Открытые модели последних поколений хорошо работают с русским языком и разворачиваются на одном сервере с видеокартой.

Права доступа

Ассистент должен отвечать сотруднику только по тем документам, которые тот и так может открыть. Права обычно берут из существующей системы: файлового хранилища, СЭД или корпоративного портала.

Как проверить качество

До запуска собирают набор из нескольких десятков реальных вопросов с правильными ответами, которые дают эксперты. На нём проверяют:

• нашёл ли поиск нужный фрагмент;
• правильный ли ответ и нет ли в нём выдуманных фактов;
• честно ли ассистент говорит «в документах этого нет», когда ответа действительно нет.

Этот набор вопросов остаётся с проектом и прогоняется после каждого изменения, чтобы качество не падало незаметно.

Где это полезно

• Техническая документация: инструкции к оборудованию, техкарты, требования к изделиям.
• Внутренние регламенты: HR, закупки, охрана труда, ИТ.
• Работа с заказчиками: ответы на типовые вопросы по продукции и договорам, подготовка ответов на запросы.
• Обучение новых сотрудников: ассистент как наставник, который всегда под рукой.

С чего начать

1. Выберите одну область, где сотрудники чаще всего ищут информацию или задают одни и те же вопросы.
2. Соберите документы по ней и 30–50 реальных вопросов.
3. Запустите пилот на небольшой группе пользователей и сравните ответы ассистента с ответами экспертов. Как организовать такой пилот, описано в статье как запустить пилот ИИ на производстве.

Мы разрабатываем ИИ-ассистентов и поиск по документации в рамках разработки ПО с ИИ, подробнее на странице корпоративный ИИ-ассистент, и можем развернуть всё на ваших серверах. Если хотите оценить, сработает ли это на ваших документах, опишите задачу: инженер ответит в течение рабочего дня.