Connexion résiduelle

output = input + sublayer(input). Elle aide les gradients à circuler dans des piles profondes.

Explication complémentaire dans Step by Token, chapitre 5.