Garde-fous
Définition
Les garde-fous sont les limites techniques encadrant un système d'IA : outils autorisés, plages de valeurs, plafonds de dépense et de volume, actions interdites et validations obligatoires. Ils transforment un modèle imprévisible en un système qui échoue de façon sûre et visible.
Des garde-fous efficaces sont appliqués en dehors du modèle — dans le code, dans la couche d'intégration, dans les contraintes de la base de données — de sorte qu'une sortie de modèle convaincante mais fausse ne puisse tout de même pas causer de dommage.
Ils rendent aussi les opérations auditables : chaque action bloquée est journalisée, et chaque seuil a un responsable qui peut le modifier de façon délibérée.
En pratique
- Limites strictes sur les montants, volumes, destinataires et actions destructrices
- Appliqués dans le code, sans se fier au comportement du modèle
- Chaque blocage et chaque dérogation sont journalisés pour revue
Termes liés
- Gouvernance de l'IALa gouvernance de l'IA est l'ensemble des règles définissant quels systèmes d'IA une entreprise exploite, sur quelles données, avec quelles autorisations, sous la responsabilité de qui, et comment les résultats sont contrôlés. Elle rend l'usage de l'IA auditable vis-à-vis de la direction, des auditeurs et des régulateurs.
- Supervision humaine (human in the loop)La supervision humaine désigne un point défini où une personne examine, approuve ou corrige le travail du système d'IA. Le transfert est conçu à l'avance pour des déclencheurs précis — seuils de valeur, faible confiance, tiers inconnus — plutôt que laissé au hasard.
- HallucinationUne hallucination est une réponse d'un modèle de langage énoncée avec assurance mais fausse — un chiffre, une clause ou une référence inventés. C'est une propriété de la génération de texte statistique, raison pour laquelle les systèmes en production vérifient les sorties par rapport aux données sources au lieu de leur faire confiance.