Température
Le bouton qui règle l'audace du modèle.
L'analogie
C'est comme commander un plat à un cuisinier. À basse température, il suit la recette à la lettre : le plat est identique à chaque fois. À haute température, il improvise : parfois il crée quelque chose de génial, parfois un désastre intéressant.
En détail
La température est un paramètre (généralement entre 0 et 2) qui modifie la distribution de probabilité au moment de choisir chaque token. Proche de 0, le modèle choisit presque toujours l'option la plus probable : des réponses cohérentes et prévisibles. À des valeurs élevées, la probabilité s'étale : plus de diversité, plus de créativité et plus de risques d'erreur.
Un exemple
Pour extraire des dates d'une facture : température 0. Pour proposer vingt noms pour votre café : température élevée. Même modèle, réglage différent.