Generacion aumentada por recuperacion (RAG)
Definición
La generacion aumentada por recuperacion es un metodo en el que primero se buscan los documentos relevantes de la empresa y los pasajes recuperados se entregan al modelo de lenguaje como contexto. El modelo responde a partir de esos pasajes, lo que hace que las respuestas sean actuales, trazables a su fuente y auditables.
RAG es la forma habitual de hacer util un modelo sobre el conocimiento interno -listas de precios, contratos, manuales tecnicos, correspondencia pasada- sin volver a entrenar nada.
La calidad depende de la capa de recuperacion, no del modelo: como se dividen los documentos, como se indexan, como se aplican los permisos de acceso y si la respuesta cita el pasaje que utilizo.
En la práctica
- Mantiene las respuestas vinculadas a un documento fuente y una version concretos
- Respeta los permisos de acceso por usuario cuando el indice esta bien construido
- Mas barato y rapido de actualizar que el ajuste fino (fine-tuning)
Términos relacionados
- Base de datos vectorialUna base de datos vectorial almacena texto, imagenes o registros como representaciones numericas (embeddings) y encuentra las entradas mas cercanas en significado a una consulta. Es la capa de busqueda detras de la generacion aumentada por recuperacion, y permite busquedas semanticas donde la busqueda por palabra clave falla.
- Modelo de lenguaje grande (LLM)Un modelo de lenguaje grande es un modelo estadistico entrenado con corpus de texto muy extensos que predice continuaciones probables de un texto. Puede clasificar, resumir, traducir y redactar, y es el componente de razonamiento dentro de la mayoria de agentes de IA, aunque por si solo no contiene datos vivos de la empresa.
- AlucinacionUna alucinacion es una respuesta de un modelo de lenguaje que suena convincente pero es falsa: una cifra, clausula o referencia inventada. Es una propiedad de la generacion estadistica de texto, por lo que los sistemas en produccion verifican las salidas contra los datos fuente en lugar de confiar en ellas.