0 votes
par dans 12 - Variational Autoencoder (VAE)
Bonjour,

     Il me semble qu'il y a un certain lien entre VAE et l'analyse en composante principale. Es ce que ces 2 méthodes de réduction de l'espace ont été comparées ? Y a t'il un intérêt particulier à utiliser plus l'un que l'autre ?

1 Réponse

0 votes
par Vétéran du GPU 🐋 (68.8k points)
sélectionné par
 
Meilleure réponse
Oui les VAE et les PCA sont toutes deux des méthodes permettant des réductions de dimensions.

La PCA est linéaire, ce qui permet de l'interpréter. Elle est unsupervised. C'est une reprojection de nos axes de notre espace

les VAE sont non-linéaires (donc beaucoup moins interprétables) ce qui permet de mieux saisir les données complexes. C'est une compression dans une espace latent de manière à obtenir une reconstruction correcte.

La bonne pratique est de toujours commencer par une PCA, ce qui permet de conserver de l'interprétabilité, de se rendre compte que ce n'est pas suffisant car on a des données non-linéaires et de passer sur un VAE en débutant avec un espace latent pas trop petit, puis de le réduire au maximum.
par
Merci beaucoup pour votre réponse qui complète celle donnée lors d'une des dernières présentations.
...