Генерация с дополненным поиском (RAG)
Определение
Генерация с дополненным поиском (RAG) — это метод, при котором сначала выполняется поиск релевантных документов компании, а найденные фрагменты передаются языковой модели в качестве контекста. Модель отвечает на основе этих фрагментов, что делает ответы актуальными, привязанными к источнику и проверяемыми.
RAG — это стандартный способ сделать модель полезной для работы с внутренними знаниями — прайс-листами, договорами, техническими руководствами, перепиской — без переобучения модели.
Качество зависит от слоя поиска, а не от модели: как документы разбиваются на части, как индексируются, как соблюдаются права доступа и указывает ли ответ на использованный фрагмент.
На практике
- Привязывает ответы к конкретному источнику и версии документа
- Соблюдает права доступа пользователя при корректно построенном индексе
- Дешевле и быстрее в обновлении, чем дообучение модели
Смежные термины
- Векторная база данныхВекторная база данных хранит тексты, изображения или записи в виде числовых эмбеддингов и находит записи, наиболее близкие по смыслу к запросу. Это поисковый слой, лежащий в основе генерации с дополненным поиском, обеспечивающий семантический поиск там, где поиск по ключевым словам не срабатывает.
- Большая языковая модель (LLM)Большая языковая модель — это статистическая модель, обученная на огромных текстовых массивах, предсказывающая вероятное продолжение текста. Она умеет классифицировать, обобщать, переводить и составлять черновики и служит компонентом рассуждения внутри большинства ИИ-агентов — но сама по себе не содержит актуальных данных компании.
- ГаллюцинацияГаллюцинация — это уверенный, но ложный ответ языковой модели: выдуманная цифра, условие или ссылка. Это свойство статистической генерации текста, поэтому производственные системы проверяют результаты по данным-источникам, а не доверяют им напрямую.