Lissage

Famille de techniques qui donnent une probabilité positive à chaque transition possible, même jamais vue à l’entraînement.

Sans lissage, un modèle n-gramme s’effondre à perplexité = ∞ dès qu’il rencontre une transition inédite sur le jeu de validation. Laplace add-α et Kneser-Ney sont les deux méthodes classiques.