La boucle d'entraînement PyTorch répète, pour chaque lot : remise à zéro des gradients, passe avant pour prédire, calcul de la perte, rétropropagation avec backward(), mise à jour par l'optimiseur. Elle alterne avec une phase d'évaluation en mode eval() sans calcul de gradient.
Exemple
for x, y in loader:
optimiseur.zero_grad()
perte = critere(modele(x), y)
perte.backward()
optimiseur.step()