Deep learning

Question

Bonjour,

Merci pour la formation gratuite et merci beaucoup pour le contenu très riche. Ma question est la suivante: Qu'est ce qu'on veut dire par "l'apprentissage à  l'échelle?"

Cordialement,

Abdelkader

Answer 1

Cela signifie qu'on met à l'échelle nos moyens de calcul pour faire notre apprentissage.

Cela veut dire qu'on utilise beaucoup beaucoup plus de ressource et que l'on rentre dans une zone où de nouvelles problèmatiques apparaissent car provoquées par cette usage très important de duplication/distribution/parallélisation.

Comments

La majorité du temps, on passe à l'échelle (donc on utilise beaucoup plus de ressource) pour nous permettre de calculer dans un temps raisonnable, ce qui ne serait pas le cas autrement. L'apprentissage de grand modèle, nécessite une quantité de calcul trop important pour réaliser ceux-ci sur seulement une unité de calcul.