Акт ЕС об искусственном интеллекте
Определение
Акт ЕС об искусственном интеллекте — это европейское регулирование, классифицирующее ИИ-системы по уровню риска и устанавливающее соответствующие обязательства — от требований прозрачности для обычных бизнес-приложений до строгих требований для систем высокого риска, например в решениях о найме или кредитоспособности.
Большинство операционной автоматизации бэк-офиса — обработка документов, поддержка при формировании предложений, сверка — не относится к категориям высокого риска, но требования прозрачности и документирования всё равно применяются.
Практическое требование — наличие доказательств: классификация по каждому случаю использования, документированные источники данных и назначенный ответственный сотрудник.
На практике
- Обязательства масштабируются в зависимости от класса риска использования
- Автоматизация бэк-офиса обычно относится к низкому риску, но не остаётся нерегулируемой
- Классификация и документация должны существовать по каждой системе
Смежные термины
- Управление ИИ (AI governance)Управление ИИ — это набор правил, определяющих, какие ИИ-системы эксплуатирует компания, на каких данных, с какими правами доступа, под чьей ответственностью и как проверяются результаты. Оно делает использование ИИ проверяемым перед руководством, аудиторами и регуляторами.
- Резидентность данныхРезидентность данных определяет, в какой юрисдикции хранятся и обрабатываются данные компании. Для ИИ-систем это касается региона размещения приложения, базы данных, конечной точки модели и любых журналов, а также того, могут ли запросы использоваться поставщиком для обучения.
- Человек в циклеЧеловек в цикле означает заранее определённую точку, в которой сотрудник проверяет, утверждает или исправляет работу ИИ-системы. Передача заранее спроектирована для конкретных триггеров — пороговых сумм, низкой уверенности, неизвестных контрагентов, — а не оставлена на волю случая.