Aller au contenu
The loss curve

Fenêtre de contexte

Le nombre maximal de tokens sur lesquels le modèle peut porter attention d’un coup. Tout ce qui en sort lui est invisible : il n’y a pas de mémoire au-delà de la fenêtre.

Explication complémentaire dans Step by Token, chapitre 9.

Où ce terme est construit