Grand modèle de langage (LLM)

Définition

Un grand modèle de langage est un modèle statistique entraîné sur de très vastes corpus de texte, qui prédit les suites probables d'un texte. Il peut classer, résumer, traduire et rédiger, et constitue le composant de raisonnement de la plupart des agents IA — mais il ne détient à lui seul aucune donnée d'entreprise en temps réel.

Un LLM est un composant, pas un système. Seul, il n'a accès ni à vos commandes, ni à vos contrats, ni à vos données de référence, et ses connaissances ont une date limite. La valeur commerciale apparaît lorsque le modèle est connecté aux données officielles de l'entreprise et aux systèmes sur lesquels il peut écrire.

Le choix du modèle est une décision d'ingénierie : coût par jeton, latence, fenêtre de contexte, couverture linguistique et région d'hébergement comptent davantage que les classements de référence.

En pratique

  • Apporte le jugement, le langage et l'extraction — pas les faits propres à votre entreprise
  • Nécessite la recherche documentaire ou l'accès à des outils pour traiter des données actuelles
  • Le choix du modèle dépend du coût, de la latence, de la langue et de la localisation des données

Termes liés

Retour au glossaire