Residencia de datos
Definición
La residencia de datos define en que jurisdiccion se almacenan y procesan los datos de la empresa. Para los sistemas de IA abarca la region de alojamiento de la aplicacion, la base de datos, el endpoint del modelo y los registros, ademas de si los prompts pueden usarse para entrenar al proveedor.
Es a la vez una cuestion contractual y arquitectonica: endpoints alojados en la UE, sin entrenamiento con datos de clientes, periodos de retencion definidos y listas claras de subencargados.
La minimizacion de datos reduce el problema: enviar el campo necesario para la decision, no el registro completo.
En la práctica
- Abarca la aplicacion, la base de datos, el endpoint del modelo y los registros
- El contrato debe excluir el entrenamiento del proveedor con datos de la empresa
- Minimizar por diseño los datos enviados en cada peticion
Términos relacionados
- Gobernanza de la IALa gobernanza de la IA es el conjunto de reglas que define que sistemas de IA opera una empresa, sobre que datos, con que permisos, bajo la responsabilidad de quien y como se revisan los resultados. Hace que el uso de la IA sea auditable ante la direccion, los auditores y los reguladores.
- Reglamento de IA de la UE (EU AI Act)El Reglamento de IA de la UE es la normativa europea que clasifica los sistemas de IA por nivel de riesgo y les asigna obligaciones en consecuencia, desde deberes de transparencia para aplicaciones empresariales ordinarias hasta requisitos estrictos para usos de alto riesgo como decisiones de empleo o solvencia crediticia.
- AlucinacionUna alucinacion es una respuesta de un modelo de lenguaje que suena convincente pero es falsa: una cifra, clausula o referencia inventada. Es una propiedad de la generacion estadistica de texto, por lo que los sistemas en produccion verifican las salidas contra los datos fuente en lugar de confiar en ellas.