Reglamento de IA de la UE (EU AI Act)
Definición
El Reglamento de IA de la UE es la normativa europea que clasifica los sistemas de IA por nivel de riesgo y les asigna obligaciones en consecuencia, desde deberes de transparencia para aplicaciones empresariales ordinarias hasta requisitos estrictos para usos de alto riesgo como decisiones de empleo o solvencia crediticia.
La mayoria de la automatizacion operativa de back office -procesamiento de documentos, apoyo a la elaboracion de presupuestos, conciliacion- queda fuera de las categorias de alto riesgo, pero aun asi se aplican deberes de transparencia y documentacion.
El requisito practico es la evidencia: una clasificacion por caso de uso, fuentes de datos documentadas y un responsable humano designado.
En la práctica
- Las obligaciones escalan con la clase de riesgo del caso de uso
- La automatizacion de back office suele ser de bajo riesgo, no exenta de regulacion
- La clasificacion y la documentacion deben existir por sistema
Términos relacionados
- Gobernanza de la IALa gobernanza de la IA es el conjunto de reglas que define que sistemas de IA opera una empresa, sobre que datos, con que permisos, bajo la responsabilidad de quien y como se revisan los resultados. Hace que el uso de la IA sea auditable ante la direccion, los auditores y los reguladores.
- Residencia de datosLa residencia de datos define en que jurisdiccion se almacenan y procesan los datos de la empresa. Para los sistemas de IA abarca la region de alojamiento de la aplicacion, la base de datos, el endpoint del modelo y los registros, ademas de si los prompts pueden usarse para entrenar al proveedor.
- Supervision humana (human in the loop)Supervision humana significa un punto definido en el que una persona revisa, aprueba o corrige el trabajo del sistema de IA. El traspaso se diseña de antemano para disparadores concretos -umbrales de valor, baja confianza, contrapartes desconocidas- en lugar de dejarlo al azar.