La taille de lot est le nombre d'exemples traités ensemble avant la mise à jour des poids. Les petits lots utilisent moins de mémoire mais s'entraînent lentement ; les grands lots sont plus rapides avec le parallélisme GPU. Les valeurs typiques vont de 16 à 512.