Nous nous intéresserons à deux familles de réseaux de neurones incontournables, permettant de traiter deux types de données essentielles, les données creuses et les données séquentielles.
Cette séquence est une séquence en deux parties :-)
Dans une première partie, nous nous intéresserons aux données creuses et nous verrons comment les techniques d’Embedding ont pu révolutionner le traitement du langage naturel et des données à très grandes dimensions.
Dans la seconde partie, nous étudierons les Réseaux de Neurones Récurrents (RNN), permettant de travailler avec des données séquentielles.
Cette séquences est un prérequis important à la séquences sur les Transformers.
Approche One Hot Encoding et ses limites,
Principes et mise en œuvre de l’Embedding,
Exemples : Classification de critiques de cinéma (sentiment analysis)
Principe des neurones récurrents
Cellules et réseaux récurrents (LSTM, GRU)
Exemples : Prédiction de la trajectoire d’une coccinelle virtuelle !
