La régularisation regroupe des techniques empêchant un modèle de mémoriser ses données d'entraînement au lieu d'apprendre des motifs généraux, un défaut appelé surapprentissage. Les méthodes courantes pénalisent les poids trop grands (L1, L2), désactivent aléatoirement des neurones pendant l'entraînement (dropout) ou arrêtent l'entraînement plus tôt. Pensez à un étudiant encouragé à comprendre les concepts plutôt qu'à mémoriser les annales.