surapprentissage

Question

Peut-on voir le surapprentissage au moment du training sans faire le testing?

Answer 1

Le voir non, mais on peut s'en douter notamment si la loss devient très très faible et que l'on atteint une accuracy quasi parfaite pendant beaucoup de step d'apprentissage du modèle

Answer 2

Non, c'est le test qui révèle le surapprentissage, puisque par définition ça veut dire apprendre sur la base de train mais ne pas pouvoir généraliser sur la base de test. C'est donc indispensable.

Answer 3

Il peut être difficile de détecter un phénomène de surapprentissage sans dataset test, cela dépend des cas.

Answer 4

Le sur-apprentissage est par définition le fait que la machine apprend "trop bien" sur le dataset d'entraînement et lorsque confronté à de nouvelles données, on se rend compte que la machine est nettement moins bon. Et tu ne peux l'observer que si tu as des données en dehors de celle d'entraînement, ie. le testing.

Comments

Donc c'est une différence importante entre l'accuracy du train et du test, on peut dire qu'il y a eu un surapprentissage. Dans ce cas est ce qu'une différence de 0.1 en terme d'accuracy veut dire qu'il y a un surapprentissage. Ma question à partir de quelle valeur de cette différence, on peut se douter qu'il a un surapprentissage.