0 votes
par dans 08 - RNN et Embedding
Bonjour,

Est-ce qu'il existe un axiome pour définir le nombre de neurones et le nombre de couches requis lors de la construction du modèle d'une IA?

1 Réponse

0 votes
par Vétéran du GPU 🐋 (66.1k points)
sélectionné par
 
Meilleure réponse
Oui et non,

Plus la tâches et/ou les données sont difficiles, plus notre modèle devra avoir une capacité importante, ce qui se traduit souvent par la quantité de neurone de celui-ci.

Pour le reste, cela va dépendre au cas par cas. A nombre de neurone similaire, toutes les couches / opérations ne se valent pas !
par
Merci pour votre réponse.  Quelle serait la valeur initiale pour construire un premier réseau de neurones, indépendamment de la taille du jeu de donnée et/ou des paramètres ?
par
+1
Comme dit précédemment, la taille du réseau dépend très fortement  du contexte d'utilisation.
Par exemple, pour le traitement automatique du langage, vous pouvez avoir des tailles de modèles qui vont de quelques millions à plusieurs milliards de paramètres.
De même, vous pouvez visé un modèle de vision en embarqué qui doit être très petit.
...