Inversion d'une modèle neuronal

Question

Si l'on voit un réseau de neurone comme une fonction f qui a des entrées X donne une sortie Y (f(X)=Y), existe t'il un moyen de trouver la fonction inverse f^-1 ?

Ou du moins, à partir d'un Y que l'on connait, estimer les entrées X que nous aurions ?

Answer 1

C'est pas mathématiquement et facilement possible.

Mais le poblème est "hackable" avec des statistiques. On parle effectivement d'attaque d'inversion de modèle. En sécurité informatique et confidentialité de donnée.

Comments

attention néanmoins, sur certains types de modèle on retrouve des couches dont la fonction inverse ne donne soit pas de résultat soit pas de résultat unique. Dans ce cas là, on se retrouve avec une distribution possible sur les valeurs de X