Je ne suis pas sûr pour l'analogie, mais une grosse partie du deep learning, c'est appliquer des transformations sur un signal pour essayer de représenter le signal dans un espace plus significatif où on pourrait facile repérer des caractéristiques utiles qui pourrait nous aider à faire une tâche de classification par exemple. Ce qui est puissant, c'est que la machine trouve par "elle-même" ces transformations.
En ce sens, le réseau de neurones pourrait tout à fait appliquer une décomposition en ondelette de notre signal d'entrée, parce qu'il a jugé que c'était pertinent.