Si on ne recrée pas le modèle (ce qui est fait étape 4) alors on continue l'apprentissage en partant des poids déterminés par l'apprentissage précédent. Si on se concentre sur les méthodes standards présentées jusqu'à présent alors c'est équivalent au fait de faire plus d'époques.
Pour obtenir la même courbe il faut écraser le modèle pour repartir de 0. On veut alors exécuter l'étape 4 à nouveau.