En faisant différentes expériences d'apprentissage. C'est un hyperparamètre difficile à appréhender. Avec le temps, on développe une intuition. Il ne faut pas que le modèle soit trop profond sinon il est trop "intelligent" par rapport à la tâche à résoudre ce qui est mauvais pour l'apprentissage. Globalement il faut avoir une idée de la difficulté de la tâche à résoudre. Mais on finit toujours par faire des essais pour affiner cet hyperparamètre.
