Резидентность данных
Определение
Резидентность данных определяет, в какой юрисдикции хранятся и обрабатываются данные компании. Для ИИ-систем это касается региона размещения приложения, базы данных, конечной точки модели и любых журналов, а также того, могут ли запросы использоваться поставщиком для обучения.
Это одновременно договорный и архитектурный вопрос: конечные точки, размещённые в ЕС, отсутствие обучения на данных клиентов, определённые сроки хранения и понятные списки субподрядчиков.
Минимизация данных снижает проблему: передавайте только то поле, которое необходимо для решения, а не всю запись целиком.
На практике
- Охватывает приложение, базу данных, конечную точку модели и журналы
- Договор должен исключать обучение поставщика на данных компании
- Минимизируйте объём данных, передаваемых с каждым запросом, изначально
Смежные термины
- Управление ИИ (AI governance)Управление ИИ — это набор правил, определяющих, какие ИИ-системы эксплуатирует компания, на каких данных, с какими правами доступа, под чьей ответственностью и как проверяются результаты. Оно делает использование ИИ проверяемым перед руководством, аудиторами и регуляторами.
- Акт ЕС об искусственном интеллектеАкт ЕС об искусственном интеллекте — это европейское регулирование, классифицирующее ИИ-системы по уровню риска и устанавливающее соответствующие обязательства — от требований прозрачности для обычных бизнес-приложений до строгих требований для систем высокого риска, например в решениях о найме или кредитоспособности.
- ГаллюцинацияГаллюцинация — это уверенный, но ложный ответ языковой модели: выдуманная цифра, условие или ссылка. Это свойство статистической генерации текста, поэтому производственные системы проверяют результаты по данным-источникам, а не доверяют им напрямую.