Deep Learning et réseaux de neurones : fondamentaux, architectures CNN/RNN, modèles génératifs et apprentissage par renforcement

Module 1 — Introduction à l'IA, au Machine Learning et au Deep Learning

• Historique, fondements et applications de l'intelligence artificielle : entre réalité et fantasmes médiatiques
• Intelligence collective : agréger une connaissance partagée entre de nombreux agents virtuels
• Algorithmes génétiques : faire évoluer une population d'agents virtuels par sélection
• Le Machine Learning : définition et positionnement
• Types de tâches : supervised learning, unsupervised learning, reinforcement learning
• Types d'actions algorithmiques : classification, régression, clustering, estimation de densité, réduction de dimensionnalité
• Exemples d'algorithmes de Machine Learning : régression linéaire, Naive Bayes, Random Tree
• Machine Learning versus Deep Learning : pourquoi les Random Forests et XGBoosts restent l'état de l'art dans certains contextes

Module 2 — Fondamentaux d'un réseau de neurones

• Rappel des bases mathématiques nécessaires
• Architecture d'un réseau de neurones : fonctions d'activation et pondération des activations
• L'apprentissage d'un réseau de neurones : fonctions de coût, back propagation, stochastic gradient descent
• Modélisation des données d'entrée et de sortie selon le type de problème
• Approcher une fonction ou une distribution par un réseau de neurones
• Data augmentation : stratégies pour équilibrer un dataset
• Généralisation des résultats d'un réseau de neurones
• Initialisations et régularisations : L1/L2 Regularization, Batch Normalization
• Optimisations et algorithmes de convergence
• Démonstration : approximation d'une fonction et d'une distribution par un réseau de neurones

Module 3 — Outils Machine Learning et Deep Learning

• Outils de gestion de données : Apache Spark, Apache Hadoop
• Bibliothèques Machine Learning usuelles : NumPy, SciPy, Scikit-learn
• Frameworks Deep Learning haut niveau : PyTorch, Keras, Lasagne
• Frameworks Deep Learning bas niveau : Theano, Torch, Caffe, TensorFlow
• Démonstration : applications et limites des outils présentés

Module 4 — Convolutional Neural Networks (CNN)

• Principes fondamentaux et domaines d'application des CNN
• Fonctionnement d'un CNN : couche convolutionnelle, kernel, padding et stride
• Architectures CNN ayant marqué l'état de l'art en classification d'images : LeNet, VGG Networks, Network in Network
• Les modèles d'attention dans les CNN
• Application à un cas de classification usuel — texte ou image
• CNN pour la génération : super-résolution et segmentation pixel à pixel
• Stratégies d'augmentation des feature maps pour la génération d'images
• Étude de cas : innovations des architectures CNN — convolutions 1×1 et connexions résiduelles

Module 5 — Recurrent Neural Networks (RNN)

• Principes fondamentaux et domaines d'application des RNN
• Fonctionnement du RNN : hidden activation, back propagation through time, unfolded version
• Évolutions architecturales : GRU (Gated Recurrent Units) et LSTM (Long Short Term Memory)
• Problèmes de convergence et vanishing gradient
• Architectures classiques : prédiction de séries temporelles, classification
• Architecture Encoder-Decoder et modèles d'attention
• Applications NLP : word/character encoding et traduction automatique
• Applications vidéo : prédiction de la prochaine image d'une séquence
• Démonstration : comparaison des architectures GRU et LSTM

Module 6 — Modèles génératifs : VAE et GAN

• Présentation des modèles génératifs : Variational AutoEncoder (VAE) et Generative Adversarial Networks (GAN)
• Auto-encoder : réduction de dimensionnalité et génération limitée
• Variational AutoEncoder : modèle génératif et approximation de la distribution des données
• Espace latent : définition, utilisation et reparameterization trick
• Fondamentaux du GAN : architecture et principe d'adversité
• Convergence d'un GAN : difficultés et solutions — Wasserstein GAN, BeGAN, Earth Moving Distance
• Applications : génération d'images et de photographies, génération de texte, super-résolution
• Démonstration : applications des modèles génératifs et exploration de l'espace latent

Module 7 — Deep Reinforcement Learning

• Fondements du Reinforcement Learning
• Utilisation d'un réseau de neurones pour modéliser la fonction d'état
• Deep Q-Learning : experience replay et application au contrôle d'un jeu vidéo
• Optimisations de la politique d'apprentissage : on-policy et off-policy
• Architecture Actor-Critic et algorithme A3C
• Applications : contrôle d'un jeu vidéo simple ou d'un système numérique
• Démonstration : pilotage d'un agent dans un environnement défini par des états et des actions possibles