Semaines

Description

Heures

S1

04 janvier

Organisation du cours

• Présentation personnelle
• Plan détaillé du cours
• Historique et applications de l'apprentissage profond

3

S2

11 janvier

L'appentissage automatique

• Tâches d'apprentissage et types de supervision
• Fonction de coût et optimisation
• Complexité des modèles et sur-apprentissage
• Protocoles de validation

3

S3

18 janvier

Perceptron et apprentissage

• Perceptron de Rosenblatt
• Algorithme d'apprentissage
• Limites

3

S4

25 janvier

Réseaux de neurones multicouches

• Structure d'une réseau de neurones
• Fonctions de coût et l'algorithme du gradient
• Algorithme de rétro-propagation
• Apprentissage incremental, par lots et mini-lots 

3

S5

1er février

Apprentissage profond

• Stratégies d'entraînement: taux d'apprentissage, fonction d'activation, initialisation
• Acceleration du gradient: moment, adam,normalisations
• Régularisation: norm l1, l2, dropout, augmentations

3

S6

8 février

Reseaux convolutifs

• Equivariance spatiale et partage de paramètres
• Couches de convoluiton et de pooling 
• Architectures et amelioration
• Detection et segmentation semantique

3

S7

15 février

Examen de mi-session

3

S8

22 février

Autoencodeurs

•  Autoencodeur
• Autoencodeur variationnel
• Reseau generatif adversariel
• Modèles de diffusion

3

S9

29 février

Modèles autoregressifs

• Reseau recurrent
• Transformer
• Modèles de language

3

S10

14 mars

Réduction de la complexité

• Élagage et quantification d'un réseau
• Calcul Conditionnel
• Réduction du rang
• Recherche d'architecture neuronal

3

S11

21 mars

Réduction de la supervision

• Apprentissage semi-supervisé
• Apprentissage faiblement-supervisé
• Apprentissage auto-supervisé
• Adaptation de domaine

3

S12

28 mars

Apprentissage par renforcement

• Introduction
• Q-learning
• Policy gradients
• Acteur-critique

3

S13

11 avril

Révision du cours

3

Total      

39

Semaines

Description

Heures

1,2

Laboratoire 0 (non évalué) - Introduction à la programmation scientifique en python

• Jupyter
• Colab
• Jax

4

3,4

Laboratoire 1 - Entrainement d'un perceptron

• Construction d'un perceptron
• Entrinement par exemple
• Entrainement par lot

4

5,6

Laboratoire 2 - Entrainement d'un réseau de neurones

• Construction d'un réseau de neurones
• Entrainment par mini-lots

4

7,8

Laboratoire 3 - Autoencodeurs

• Autoencodeur normal
• Autoencodeur variationnel

4

9,10

Laboratoire 4 - Réseaux convolutifs

• Pytorch
• Réseau Convolutif
• Détéction avec un réseau convolutif

4

11,12,13

Laboratoire 5 - Modeles autoregressifs

• Réseau recurrent
• Transformer

6

Total          

26