Le taux d'apprentissage est un hyperparamètre contrôlant l'ampleur de l'ajustement des poids du modèle lors de chaque mise à jour. Trop élevé, le modèle diverge ; trop bas, l'entraînement est lent ou se bloque. Trouver le bon taux est l'une des étapes les plus importantes, souvent guidé par des schedules qui décroissent avec le temps.