Warmup

Faire monter le learning rate depuis presque zéro sur les premières centaines de steps. Les premiers gradients sont grands et mal calibrés ; le warmup les empêche de détruire les poids initiaux.