Aller au contenu
The loss curve

Époque

Un passage complet sur le jeu d’entraînement. Les grands modèles de langage en terminent rarement une seule : ils tirent des batches dans un flux et comptent des steps.

Explication complémentaire dans Step by Token, chapitre 6.

Où ce terme est construit