Gobernanza de la IA
Definición
La gobernanza de la IA es el conjunto de reglas que define que sistemas de IA opera una empresa, sobre que datos, con que permisos, bajo la responsabilidad de quien y como se revisan los resultados. Hace que el uso de la IA sea auditable ante la direccion, los auditores y los reguladores.
Para empresas en la UE, esto se conecta directamente con el AI Act y el RGPD: la finalidad, la base legal, los flujos de datos y la clasificacion de riesgo deben documentarse por caso de uso.
En la practica es un registro breve -sistema, finalidad, datos, modelo, region de alojamiento, responsable, regla de escalado- mantenido al dia en lugar de un manual de politicas.
En la práctica
- Registro por caso de uso: finalidad, datos, modelo, responsable, clase de riesgo
- Reglas documentadas de escalado y supervision humana
- Se revisa cuando cambia el proceso, el modelo o el proveedor
Términos relacionados
- Reglamento de IA de la UE (EU AI Act)El Reglamento de IA de la UE es la normativa europea que clasifica los sistemas de IA por nivel de riesgo y les asigna obligaciones en consecuencia, desde deberes de transparencia para aplicaciones empresariales ordinarias hasta requisitos estrictos para usos de alto riesgo como decisiones de empleo o solvencia crediticia.
- Residencia de datosLa residencia de datos define en que jurisdiccion se almacenan y procesan los datos de la empresa. Para los sistemas de IA abarca la region de alojamiento de la aplicacion, la base de datos, el endpoint del modelo y los registros, ademas de si los prompts pueden usarse para entrenar al proveedor.
- Barreras de seguridad (guardrails)Las barreras de seguridad son los limites tecnicos que rodean a un sistema de IA: herramientas permitidas, rangos de valores, topes de gasto y volumen, acciones prohibidas y aprobaciones obligatorias. Convierten un modelo impredecible en un sistema que falla de forma segura y visible.