0 votes
par (220 points) dans Séquence 3
Y'a t-il une métrique pour estimer la consommation énergetique de l'entrainement d'un réseau CNN. Sinon, quel est l'ordre de grandeur dans l'état de l'art, et le ratio de la consommation inférence/entrainement
merci

1 Réponse

+1 vote
par (5.9k points)
sélectionné par
 
Meilleure réponse
Les outils existants sont relativement approximatif d'autant plus qu'ils ne prennent pas en compte l'ensemble des consommations induites par un entrainement (préparation...) et c'est d'autant plus compliqué si on prend en compte l'empreinte carbonne.

Ces outils se  reposent souvent sur des estimations à partir des caractéristiques techniques du matériel.

Les constructeurs et fournisseurs de solution de calcul prennent en compte cette question et travaillent à obtenir des estimateurs plus fiables à partir des consommations énergétiques pendant l'entrainement.

Pour l'ordre de grandeur, ce n'est pas possible, certains modèles nécessitent un entrainement de quelques heures sur 1 GPU, quand d'autres prennent plusieurs mois sur 400 GPU...

Des outils en ligne vous donnent une estimation comme : https://mlco2.github.io/impact/#compute
...