Человек в цикле
Определение
Человек в цикле означает заранее определённую точку, в которой сотрудник проверяет, утверждает или исправляет работу ИИ-системы. Передача заранее спроектирована для конкретных триггеров — пороговых сумм, низкой уверенности, неизвестных контрагентов, — а не оставлена на волю случая.
Хорошо спроектированные передачи повышают производительность, а не замедляют её: типовые кейсы проходят автоматически, а внимание человека сосредоточено на исключениях, которые действительно требуют суждения.
Исправления должны возвращаться в систему в виде правил или примеров, чтобы одно и то же исключение не приходилось решать одному и тому же человеку дважды.
На практике
- Явные триггеры эскалации вместо проверки по случайному принципу
- Проверяющий видит исходные данные рядом с предложенным результатом
- Исправления фиксируются и используются повторно
Смежные термины
- Ограничители (guardrails)Ограничители — это технические границы вокруг ИИ-системы: разрешённые инструменты, диапазоны значений, лимиты затрат и объёма, запрещённые действия и обязательные согласования. Они превращают непредсказуемую модель в систему, которая безопасно и явно сообщает о сбоях.
- Сквозная обработка (STP)Сквозная обработка — это доля кейсов, проходящих от приёма до завершения без какого-либо вмешательства человека. Это центральная операционная метрика программы автоматизации, поскольку она напрямую отражается на стоимости и времени цикла для каждого кейса.
- ИИ-сотрудникИИ-сотрудник — это программный работник, выполняющий определённую задачу внутри существующих систем компании: он принимает работу, применяет правила компании, записывает результаты в рабочее ПО и передаёт человеку то, что не может решить сам. Он работает непрерывно, и его оценивают как роль, а не как инструмент.