Autograd

La différentiation automatique : la machinerie qui enregistre chaque opération de la passe avant et la rejoue à l’envers pour calculer les gradients, sans jamais les dériver à la main.

Chaque opération connaît sa dérivée locale. L’autograd les enchaîne par la règle de la chaîne, en ordre inverse. `loss.backward()` en PyTorch, c’est un appel à ce rejeu. L’annexe en construit une version minuscule pour que cet appel cesse d’être magique.