ИИ-агент
ИИ-агент — это программа, которая самостоятельно достигает цели: она решает, какие шаги предпринять, вызывает инструменты или API для их выполнения, проверяет результат и повторяет цикл до достижения цели или передачи задачи человеку. В отличие от чат-бота, агент действует, а не только отвечает.
Агент объединяет языковую модель для принятия решений с инструментами для действий — запрос к базе данных, вызов API, генерация документа. Модель выбирает следующий шаг, инструменты его выполняют, а результат возвращается обратно, чтобы агент мог скорректировать курс.
Надёжность обеспечивается ограничениями, а не самой моделью: узкая область применения, проверенные входные данные, фиксированный набор инструментов, логирование каждого действия и правило, когда останавливаться и спрашивать человека.
На практике
- Планирует, действует и проверяет результат циклически, а не выдаёт единственный ответ
- Требует явных разрешений на инструменты и журнала аудита каждого действия
- Работает лучше всего в одной чётко ограниченной области на агента
Смежные термины
- Агентный ИИАгентный ИИ — это подход, при котором ИИ-системы самостоятельно планируют и выполняют многошаговую работу, используя инструменты и обратную связь, вместо генерации единственного ответа. Единицей автоматизации становится не ответ, а завершённая задача.
- ОркестрацияОркестрация — это координационный слой, определяющий, какой агент, модель или сервис обрабатывает какой шаг, в каком порядке, с какими данными и что происходит при сбое. Именно она превращает отдельных агентов в надёжную операционную систему.
- Ограничители (guardrails)Ограничители — это технические границы вокруг ИИ-системы: разрешённые инструменты, диапазоны значений, лимиты затрат и объёма, запрещённые действия и обязательные согласования. Они превращают непредсказуемую модель в систему, которая безопасно и явно сообщает о сбоях.