Управление ИИ (AI governance)
Определение
Управление ИИ — это набор правил, определяющих, какие ИИ-системы эксплуатирует компания, на каких данных, с какими правами доступа, под чьей ответственностью и как проверяются результаты. Оно делает использование ИИ проверяемым перед руководством, аудиторами и регуляторами.
Для компаний в ЕС это напрямую связано с Актом ЕС об ИИ и GDPR: цель, правовое основание, потоки данных и классификация рисков должны быть задокументированы для каждого случая использования.
На практике это короткий реестр — система, цель, данные, модель, регион размещения, владелец, правило эскалации, — который поддерживается актуальным, а не толстая папка с политиками.
На практике
- Реестр по каждому случаю использования: цель, данные, модель, владелец, класс риска
- Документированные правила эскалации и человеческого надзора
- Пересматривается при изменении процесса, модели или поставщика
Смежные термины
- Акт ЕС об искусственном интеллектеАкт ЕС об искусственном интеллекте — это европейское регулирование, классифицирующее ИИ-системы по уровню риска и устанавливающее соответствующие обязательства — от требований прозрачности для обычных бизнес-приложений до строгих требований для систем высокого риска, например в решениях о найме или кредитоспособности.
- Резидентность данныхРезидентность данных определяет, в какой юрисдикции хранятся и обрабатываются данные компании. Для ИИ-систем это касается региона размещения приложения, базы данных, конечной точки модели и любых журналов, а также того, могут ли запросы использоваться поставщиком для обучения.
- Ограничители (guardrails)Ограничители — это технические границы вокруг ИИ-системы: разрешённые инструменты, диапазоны значений, лимиты затрат и объёма, запрещённые действия и обязательные согласования. Они превращают непредсказуемую модель в систему, которая безопасно и явно сообщает о сбоях.