Batch
Un groupe d’exemples traités ensemble dans une même passe avant et arrière. Un batch plus gros donne un gradient moins bruité et exploite mieux le matériel, au prix de la mémoire.
Explication complémentaire dans Step by Token, chapitre 6.
Où ce terme est construit
Continuer