Modelo de linguagem de grande escala (LLM)

Definição

Um modelo de linguagem de grande escala é um modelo estatístico treinado em enormes volumes de texto que prevê continuações prováveis de um texto. É capaz de classificar, resumir, traduzir e redigir, e é o componente de raciocínio dentro da maioria dos agentes de IA — mas não contém, por si só, dados atuais da empresa.

Um LLM é um componente, não um sistema. Sozinho, não tem acesso a pedidos, contratos ou dados mestres da empresa, e possui uma data-limite de conhecimento. O valor de negócio surge quando o modelo é conectado a dados autorizados da empresa e a sistemas nos quais pode escrever.

A escolha do modelo é uma decisão de engenharia: custo por token, latência, janela de contexto, cobertura de idiomas e região de hospedagem importam mais do que rankings de benchmark.

Na prática

  • Fornece julgamento, linguagem e extração — não fatos sobre o negócio
  • Precisa de recuperação de dados ou acesso a ferramentas para trabalhar com dados atuais da empresa
  • A escolha do modelo é guiada por custo, latência, idioma e localização dos dados

Termos relacionados

Voltar ao glossário