Fenêtre de contexte
Le nombre maximal de tokens sur lesquels le modèle peut porter attention d’un coup. Tout ce qui en sort lui est invisible : il n’y a pas de mémoire au-delà de la fenêtre.
Explication complémentaire dans Step by Token, chapitre 9.
Où ce terme est construit
Continuer