Prefill

La première passe, où tout le prompt est traité d’un coup pour remplir le cache KV. Elle détermine le temps jusqu’au premier token ; le décodage token par token qui suit est bien moins cher.

Explication complémentaire dans Step by Token, chapitre 18.