Il y a différents algorithmes pour l'initialisation des poids d'un réseau de neurone : Xavier, Kaiming, ... qui marchent plus ou mins selon le type de couche de neurones.
C'est un problème qui déjà bien résolu et connu actuelement.
Xavier uniforme ou gaussien ou Kaiming uniforme ou gaussien comme dit Nathan ce sont les bornes qui changent selon les algos.