Большая языковая модель (LLM)
Большая языковая модель — это статистическая модель, обученная на огромных текстовых массивах, предсказывающая вероятное продолжение текста. Она умеет классифицировать, обобщать, переводить и составлять черновики и служит компонентом рассуждения внутри большинства ИИ-агентов — но сама по себе не содержит актуальных данных компании.
LLM — это компонент, а не система. Сама по себе она не имеет доступа к вашим заказам, договорам или базовым данным и обладает фиксированной датой отсечки знаний. Бизнес-ценность появляется, когда модель подключена к достоверным данным компании и к системам, в которые она может записывать.
Выбор модели — это инженерное решение: стоимость на токен, задержка, размер контекстного окна, языковое покрытие и регион размещения важнее рейтингов в бенчмарках.
На практике
- Обеспечивает рассуждение, язык и извлечение данных, но не факты о вашем бизнесе
- Нуждается в поиске по данным или доступе к инструментам для работы с текущими данными компании
- Выбор модели определяется стоимостью, задержкой, языком и расположением данных
Смежные термины
- Генерация с дополненным поиском (RAG)Генерация с дополненным поиском (RAG) — это метод, при котором сначала выполняется поиск релевантных документов компании, а найденные фрагменты передаются языковой модели в качестве контекста. Модель отвечает на основе этих фрагментов, что делает ответы актуальными, привязанными к источнику и проверяемыми.
- ГаллюцинацияГаллюцинация — это уверенный, но ложный ответ языковой модели: выдуманная цифра, условие или ссылка. Это свойство статистической генерации текста, поэтому производственные системы проверяют результаты по данным-источникам, а не доверяют им напрямую.
- Дообучение моделиДообучение — это дальнейшее обучение существующей модели на примерах компании, чтобы она переняла стиль, формат или логику классификации. Оно меняет то, как модель отвечает, а не то, какие текущие факты она знает, и обычно является последним вариантом после промптинга и поиска по данным.