+1 vote
par dans Séquence 1
Je crois n'avoir pas tout à fait compris en quoi consiste les "batchs" ?

Quels sont leurs intérêts pour l'apprentissage ?

1 Réponse

+1 vote
par Vétéran du GPU 🐋 (48.7k points)
sélectionné par
 
Meilleure réponse
Il ya plusieurs intérêts. Le premier est de calculer sur plusieurs données en même temps. En exploitant la parallélisation du calcul on gagne en temps de calcul.

Comme on fait une moyenne, ça permet également d'être moins sensibles aux outliers. Si on ne prend qu'un exemple à la fois et que cet exemple n'est pas correct, alors l'apprentissage sera contre productif.

On est limité par la taille du batch par la mémoire. Et on veut aussi ne pas perdre toutes les spécificités de nos exemples. La moyenne a tendance à perdre l'information, ce qui est bon dans le cas des outliers, mais on ne veut pas tout perdre non plus.
par
Merci !
...