Logo ÉTS
Session
Cours
Responsable(s) Éric Granger

Se connecter
 

École de technologie supérieure
Département de génie des systèmes
Responsable(s) de cours : Éric Granger


PLAN DE COURS

Hiver 2019
SYS843 : Réseaux de neurones et systèmes flous (3 crédits)



Préalables
Aucun préalable requis




Descriptif du cours
Acquérir les notions fondamentales sur les réseaux de neurones et les systèmes flous, et se familiariser avec les principaux modèles permettant d’analyser les avantages et les limites d’une application donnée.

Réseaux de neurones : définitions, caractéristiques, fondements biologiques, structure et fonctionnement de base. Méthodologie de construction et description des principaux modèles : Perceptron, Adaline-Madaline, rétropropagation, Hopfield, Kohonen, ART, etc. Réalisation d'une application simple à l'aide d'un simulateur. Sous-ensembles flous : définitions, opérations sur les sous-ensembles flous, les Á-coupes, produit cartésien, principe d'extension, normes et conormes triangulaires. Relations et quantités floues, mesure d'imprécision. Variables linguistiques et propositions floues.



Objectifs du cours

Introduire les notions fondamentales des réseaux de neurones artificiels et des systèmes flous, et présenter les principaux modèles de façon à ce qu'il(elle) puisse en analyser les avantages et les limitations pour une application donnée.




Stratégies pédagogiques

Un cours magistral d’une durée de 3 heures aura lieu une fois par semaine, pendant une période de douze (12) semaines.  La majeure partie du cours portera principalement sur les réseaux de neurones artificiels, en particulier les réseaux de type multicouches sans rétroaction (Muli-Layer Perceptron, MLP) et les modèles populaires en apprentissage profond (Deep Learning) comme les réseaux de neurones à convolution (CNNs), les réseaux adverses génératifs (GANs) et les auto-encodeurs variationnel (VAE). L'entrainement des réseaux de neurones profonds sera discuté en détails. Nous allons aussi discuter l'apprentissage non supervisé (incluant différents algorithmes de catégorisation), semi-supervisé,  faiblement supervisé et adverse. Une partie du cours couvrira les différents aspects théoriques et pratiques des méthodes floues. En fin de cours, nous aborderons plusieurs techniques d’optimisation, incluant l’optimisation évolutionnaire, l’optimisation discrète, l’optimisation sous contraintes et les méthodes ADMM. Plusieurs applications et technologies seront présentées à travers des études de cas. Enfin, la treizième semaine sera consacrée à la présentation orale projets de session par les étudiants.   

 

Un projet de session portera obligatoirement sur un aspect spécifique de la matière présentée au cours. Ce projet d'envergure va prendre la forme d'une étude comparative de différentes techniques, de préférence pour une application liée au domaine de recherche de l'étudiant(e).  Dans un premier temps, une synthèse de littérature servira de véhicule pour approfondir les connaissances sur des algorithmes neuroniques, flous et évolutionnaires pour le traitement d’information. Dans un deuxième temps, une étude expérimentale permettra d’évaluer et de comparer les performances de ces algorithmes avec une base de données conséquente.  Les exigences pédagogiques résident dans la rédaction de deux rapports techniques (pour la synthèse de littérature et l’étude expérimentale), et d’une présentation orale du projet de session par tous les étudiants.




Utilisation d’appareils électroniques

Ne s'applique pas.




Horaire
Groupe Jour Heure Activité
01 Jeudi 08:30 - 12:00 Activité de cours



Coordonnées de l’enseignant
Groupe Nom Activité Courriel Local Disponibilité
01 Ismail Ben Ayed Activité de cours Ismail.BenAyed@etsmtl.ca A-3596



Cours
Semaine (date) Description (voir les lectures sur le site de cours)

 

 

 

1.
3 janvier
 

Organisation du cours :

  • présentation personnelle
  • plan détaillé du cours
  Introduction à l’apprentissage machine:
  • Historique et exemples applications
  • Formes et classes de formes
  • Frontières de décision
  • Classificateur à distance minimum
  • Classificateur du plus proche voisin 

 

 

2.
10 janvier
                      

3.

17 janvier
  

 

 

Introduction aux réseaux de neurones:

  • Le perceptron
  • Fonctions de coûts  
  • Descente du gradient stochastique
  • Réseaux de neurones multicouches
  • Retro-propagation

   

 

 

4.
24 janvier 

Apprentissage profond:

  • Réseaux de neurones à convolution (CNNs)
  • Réseaux adverses génératifs (GANs)
  • Auto-encodeurs variationnel (VAE)

Livrable : Proposition de projet

5.
31 Janvier

Entrainement des réseaux de neurones profonds

6.

7 février

7.
14 février

Apprentissage non supervisé et algorithmes de catégorisation (Clustering): 

  • algorithme statistique k-means
  • Mélanges de Gaussiennes (GMM)
  • catégorisation à noyaux et spectrale
  • Clustering profond 

 

8.
28 février

9.
7 mars

Apprentissage semi-supervisé et faiblement supervisé: 
  • Le Laplacian et les champs aléatoires conditionnels (CRFs)
  • Apprentissage sous contraintes
  • Apprentissage par instances multiples

Apprentissage adverse 

 

Livrable (Séance 8): Rapport 1 - synthèse de littérature

10.
14 mars 

Systèmes flous: 

  • définitions et opérations sur les sous-ensembles flous
  • les a-coupes associées à un sous-ensemble flou
  • produit cartésien de sous-ensembles flous
  • principe d'extension
  • normes et co-normes triangulaires
  • principes généraux pour la conception d’un moteur d’inférence flou

 

11.
21 mars  

12.
28 mars
 

 

Méta heuristique et optimisation évolutionnaire

 

Méthodes avancées d’optimisation

 

13.
4 avril

 

Présentation orale des projets de session




Laboratoires et travaux pratiques

Ne s'applique pas.




Évaluation

Les 2 rapports techniques pour le projet de session – (1) synthèse de littérature et (2) étude expérimentale – devront être dactylographiés, et avoir une longueur maximum de 50 pages (caractère de 12 points, en double interligne). Les projets de session feront l’objet d’une présentation orale d’affiches le 4 avril 2019. Les projets de session feront l’objet d’une présentation orale durant la période des examens.

Activités Pondération Échéance

1.  Proposition de projet

5% 24 janvier

2.  Rapport 1 — synthèse de littérature

25% 28 février

3.  Rapport 2 — présentation orale

10% 4 avril

4.  Rapport 2 — étude expérimentale

40% 22 avril

5.  EXAMEN FINAL

20% Période des examens

 




Date de l'examen final
Votre examen final aura lieu pendant la période des examens finaux, veuillez consulter l'horaire à l'adresse suivante : http://etsmtl.ca/Etudiants-actuels/Baccalaureat/Examens-finaux


Politique de retard des travaux
Tout travail (devoir pratique, rapport de laboratoire, rapport de projet, etc.) remis en retard sans motif valable, c’est-à-dire autre que ceux mentionnés dans le Règlement des études (1er cycle, article 7.2.7 b / cycles supérieurs, article 6.5.4 b) se verra attribuer la note zéro, à moins que d’autres dispositions ne soient communiquées par écrit par l’enseignant dans les consignes de chaque travail à remettre ou dans le plan de cours pour l’ensemble des travaux.

Dispositions additionnelles

Ne s'applique pas.




Absence à un examen
Dans les cinq (5) jours ouvrables suivant la tenue de son examen, l’étudiant devra justifier son absence d’un examen durant le trimestre auprès de la coordonnatrice – Affaires départementales qui en référera au directeur de département. Pour un examen final, l’étudiant devra justifier son absence auprès du Bureau du registraire. Toute absence non justifiée par un motif majeur (maladie certifiée par un billet de médecin, décès d’un parent immédiat ou autre) à un examen entraînera l’attribution de la note (0).



Plagiat et fraude
Les clauses du « Règlement sur les infractions de nature académique de l’ÉTS » s’appliquent dans ce cours ainsi que dans tous les cours du département. Les étudiants doivent consulter le Règlement sur les infractions de nature académique (https://www.etsmtl.ca/A-propos/Direction/Politiques-reglements/Infractions_nature_academique.pdf ) pour identifier les actes considérés comme étant des infractions de nature académique ainsi que prendre connaissance des sanctions prévues à cet effet.  À l’ÉTS, le respect de la propriété intellectuelle est une valeur essentielle et les étudiants sont invités à consulter la page Citer, pas plagier ! (https://www.etsmtl.ca/Etudiants-actuels/Baccalaureat/Citer-pas-plagier).



Documentation obligatoire

Documentation obligatoire
 

  • SYS843 Réseaux de neurones et systèmes flous, Notes de cours, vol 1, Réseaux de neurones, Robert Sabourin, Rév1, 2000.
  • Les notes de cours péparées par le professeur et les références pertinentes seront disponibles sur le site Internet du cours: https://ena.etsmtl.ca



Ouvrages de références

Références optionnelles

  • W. Banzhaf, Foundations of Genetic Algorithms, Morgan Kaufmann, 1999.
  • C. M. Bishop, Neural Networks for Pattern Recognition, Oxford University Press, 1995.
  • C. M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006.
  • R. O. Duda, P. E. Hart et D. G. Stork, Pattern Classification, 2e ed., John Wiley & Sons, 2000.
  • S. Haykin, Neural Networks and Machine Learning, 3e ed., Prentice Hall, 2009.
  • G.J. Klir et  T.A. Folger, Fuzzy sets, Uncertainty and Information, Prentice Hall Int’l, 1988.
  • L. I. Kuncheva, Combining Pattern Classifiers: Methods and Algorithms, Wiley, 2004.
  • K.F. Man, K.S. Tang et S. Kwong, Genetic Algorithms, Concepts and Design, Springer-Verlag, 2e ed., 1999.
  • J. Zurada, J.M., Introduction to Artificial Neural Systems, West Publishing Co, 1992.
  • H.J. Zimmermann, Fuzzy Set Theory and its Applications, 4e ed., Springer, 2001.
  • I. Goodfellow, Y. Bengio, A. Courville, Deep Learning, MIT Press, Cambridge, MA, 2016
  • F-F Li, J. Johnson, S. Yeung, CS231n: Convolutional Neural Networks for Visual Recognition, Stanford University, 2017

.




Adresse internet du site de cours et autres liens utiles

https://ena.etsmtl.ca




Autres informations

Coordonnées du Professeur:

Local:  A-3596

Disponibilité: sur rendez-vous, par courriel (ismail.benayed@etsmtl.ca)