Modelo de lenguaje grande (LLM)
Un modelo de lenguaje grande es un modelo estadistico entrenado con corpus de texto muy extensos que predice continuaciones probables de un texto. Puede clasificar, resumir, traducir y redactar, y es el componente de razonamiento dentro de la mayoria de agentes de IA, aunque por si solo no contiene datos vivos de la empresa.
Un LLM es un componente, no un sistema. Por si solo no tiene acceso a los pedidos, contratos o datos maestros de una empresa, y tiene una fecha limite de conocimiento. El valor de negocio aparece cuando el modelo se conecta a datos autorizados de la empresa y a sistemas sobre los que puede escribir.
La eleccion de modelo es una decision de ingenieria: coste por token, latencia, ventana de contexto, cobertura de idiomas y region de alojamiento importan mas que las tablas de rendimiento comparativo.
En la práctica
- Aporta criterio, lenguaje y extraccion, no datos reales de la empresa
- Necesita recuperacion de informacion o acceso a herramientas para trabajar con datos actuales
- La seleccion del modelo depende del coste, la latencia, el idioma y la ubicacion de los datos
Términos relacionados
- Generacion aumentada por recuperacion (RAG)La generacion aumentada por recuperacion es un metodo en el que primero se buscan los documentos relevantes de la empresa y los pasajes recuperados se entregan al modelo de lenguaje como contexto. El modelo responde a partir de esos pasajes, lo que hace que las respuestas sean actuales, trazables a su fuente y auditables.
- AlucinacionUna alucinacion es una respuesta de un modelo de lenguaje que suena convincente pero es falsa: una cifra, clausula o referencia inventada. Es una propiedad de la generacion estadistica de texto, por lo que los sistemas en produccion verifican las salidas contra los datos fuente en lugar de confiar en ellas.
- Ajuste fino (fine-tuning)El ajuste fino entrena aun mas un modelo existente con ejemplos especificos de la empresa para que adopte un estilo, formato o comportamiento de clasificacion. Cambia como responde un modelo, no que hechos actuales conoce, y suele ser la ultima opcion tras probar prompts y recuperacion de informacion.