Explication sur cas individuel

Question

Est-ce qu'on peut tout le temps avancer une explication sur n'importe quelle décision/prédiction individuelle dans n'importe quelle approche d'apprentissage ?

Answer 1

Non. Certains modèles sont clairement plus propices à l'interprétabilité. Les réseaux de neurones typiquement ne le permettent pas. Ils sont connus pour être des grosses boîtes noires. Souvent, on constate qu'ils arrivent parfaitement à résoudre une tâche mais on ne sait pas comment.