Gouvernance de l'IA
Définition
La gouvernance de l'IA est l'ensemble des règles définissant quels systèmes d'IA une entreprise exploite, sur quelles données, avec quelles autorisations, sous la responsabilité de qui, et comment les résultats sont contrôlés. Elle rend l'usage de l'IA auditable vis-à-vis de la direction, des auditeurs et des régulateurs.
Pour les entreprises de l'UE, cela se rattache directement à l'AI Act et au RGPD : la finalité, la base légale, les flux de données et la classification des risques doivent être documentés par cas d'usage.
En pratique, il s'agit d'un registre court — système, finalité, données, modèle, région d'hébergement, responsable, règle d'escalade — tenu à jour plutôt qu'un classeur de politiques.
En pratique
- Registre par cas d'usage : finalité, données, modèle, responsable, classe de risque
- Règles d'escalade et de supervision humaine documentées
- Revu à chaque changement de processus, de modèle ou de fournisseur
Termes liés
- Règlement européen sur l'IA (AI Act)Le règlement européen sur l'IA (AI Act) est la réglementation européenne qui classe les systèmes d'IA par niveau de risque et leur attache des obligations en conséquence — des devoirs de transparence pour les applications métier ordinaires jusqu'à des exigences strictes pour les usages à haut risque comme les décisions d'embauche ou de solvabilité.
- Localisation des donnéesLa localisation des données définit dans quelle juridiction les données de l'entreprise sont stockées et traitées. Pour les systèmes d'IA, cela couvre la région d'hébergement de l'application, de la base de données, du point d'accès au modèle et des journaux, ainsi que la possibilité ou non d'utiliser les prompts pour entraîner le fournisseur.
- Garde-fousLes garde-fous sont les limites techniques encadrant un système d'IA : outils autorisés, plages de valeurs, plafonds de dépense et de volume, actions interdites et validations obligatoires. Ils transforment un modèle imprévisible en un système qui échoue de façon sûre et visible.