0 votes
par dans Séquence 16
Pour moins consommer, est-il mieux d'avoir le plus de GPU possible, ou la GPU la plus grande, pour que celle-ci soit toujours en sous-régime par rapport aux tâches demandées (entraînements de modèles), ou est-il meilleur d'avoir une GPU la plus basse possible et de la faire tourner en régime maximum en jouant sur les paramètres d'optimisation ?

(Question en perspective d'achat d'un laptop avec carte graphique avec GPU).

1 Réponse

+1 vote
par Vétéran du GPU 🐋 (48.7k points)
sélectionné par
 
Meilleure réponse
Pour être relativement écolo, il vaut mieux que la machine tourne à plein régime et finir son entraînement plus rapidement, pour donner ensuite le matos à quelqu'un d'autre. Ça permet d'avoir moins de GPU en fonctionnement. C'est lié au fait qu'un GPU consomme même quand il ne fait rien (60W pour un A100 par exemple, mais c'est vrai aussi du CPU, de la RAM, des communications, etc).

C'est pour ça que les supercalculateurs sont intéressants. On a une consommation totale inférieure, une récupération de la chaleur pour chauffer des bâtiments, et d'autres aspects comme la sécurité incendie, cybersécurité, etc.

Entre un bon GPU et un mauvais sur le laptop, je dirais de prendre un gpu inférieur qu'on utilise mieux car de toute façon le bon GPU consomme même quand il est idle. Et en plus le bon GPU va avoir une gravure plus fine qui demande des technos plus évoluées, c'est certainement plus polluant à la fabrication donc (on est un peu à la limite de mes compétences mais voilà).
par
Super, merci.
...