Ce cours présente les concepts d’apprentissage automatique par les ordinateurs. Plusieurs problèmes applicatifs seront étudiés et différentes méthodes d’apprentissage automatique émanant du génie des technologies de l’information, de la théorie de l’information et de l’intelligence artificielle seront étudiées.

À la fin de ce cours, l'étudiant sera en mesure :

• d'illustrer et expliquer la nature des systèmes intelligents;
• d'appliquer les connaissances en intelligence artificielle requises pour concevoir et maintenir de tels systèmes;
• d'utiliser les outils appropriés pour valider et évaluer la performance des systèmes intelligents.

La théorie de Bayes, les approches non supervisées et celles supervisées sont quelques exemples de méthodes étudiées en classe.

• Illustrer et expliquer la nature des systèmes intelligents.
• Appliquer les connaissances en apprentissage automatique requises pour concevoir et maintenir de tels systèmes.
• Utiliser les outils appropriés pour valider et évaluer la performance des systèmes intelligents.

• 3,5 heures de cours et 2 heures de laboratoire par semaine. Toutes les notes de cours seront disponibles à l’étudiant(e) sous format électronique dans Moodle;
• Les laboratoires visent l'assimilation des notions vues au cours, la mise au point des travaux et la conception des systèmes intelligents.

Concepts fondamentaux (3.5 heures)

• Types d'apprentissage. Régularisation. Sélection de modèles. Conception d'un système intelligent. Exemples d’applications. Étude de cas. Méthodes d'évaluation de performance.

Préparation de données et extraction de primitives (3.5 heures)

• Le spectre de la structure. Types de variables. Préparation de données. Traitement par lots et ETL. Normalisation. Extraction de primitives. Apprentissage de la représentation. Encodage One-Hot. Exemples d'applications sur vidéo, images et audio.

Réduction de la dimensionnalité (3.5 heures)

• Sélection de sous-ensembles. Analyse des composantes principales (PCA). Analyse discriminante linéaire (LDA).

Théorie de la décision de Bayes (3.5 heures)

• Classification bayésienne. Pertes et risques. Fonctions discriminantes. Valeur de l’information. Classificateur optimal de Bayes.

Méthodes paramétriques (3.5 heures)

• Estimation à maximum de vraisemblance. Biais et variance. Classification et régression paramétrique. Méthodes à plusieurs variables. Données à plusieurs variables. Estimation des paramètres. Classification et régression multivariée.

Méthodes non-paramétriques (3.5 heures)

• Estimation de densité non paramétrique. Estimation par histogrammes. Estimation de noyaux. Estimation par k-plus
  proche voisins.

Modèles Discriminatifs linéaires (3.5 heures) 

• Modèle linéaire. Géométrie. Descente du gradient. Discrimination logistique. Régression de Ridge.

Réseaux de neurones profonds (3.5 heures)

• Perceptron multicouches. Algorithme de propagation rétroactive. Procédure d’entraînement. Réseaux profonds. Apprentissage de représentations. Réseaux convolutifs. Réseaux récurrents et récursifs. Autoencodeurs.

Réseaux de neurones convolutifs (3.5 heures)

• Neurone à convolution. Couche de regroupement. Réseaux convolutifs. Régularisation de réseaux. Réseaux récurrents et récursifs. Autoencodeurs.

Machines à vecteurs de support (3.5 heures)

• Hyperplan séparateur et marge maximale. Astuce du noyau. Classification par SVM. Régression par SVM. SVM à une classe. SVM multi-classe.

Combinaison de modèles d'apprentissage (3.5 heures)

• Génération de modèles d'apprentissage. Combinaison d'experts. Combinaison à plusieurs étages. Système de vote. Importance du rejet. Règle idéale. Concept de rejet. Critères de rejet.

Regroupement (3.5 heures)

• Introduction. Mélange de densités. Regroupement k-moyennes. Algorithme de maximisation de l’espérance. Algorithmes hiérarchiques.

n/a

À noter qu'une moyenne inférieure à 50% à l'ensemble des examens intra et final entraine automatiquement un échec au cours.

N/A

• Alpaydin, Ethem. 2014. Introduction to machine learning, 3rd edition. Coll. « Adaptive computation and machine learning ». Cambridge, Mass.: MIT Press.

• Vous avez accès au document électronique complet à partir de books24x7.

• Mitchell, Tom M. 1997. Machine Learning. New York: McGraw-Hill, 414 p.

• Duda, Richard O., Peter E. Hart et David G. Stork. 2001. Pattern classification, 2nd ed. New York ; Toronto: John Wiley & Sons, 654 p.

• Bishop, Christopher M. 2006. Pattern recognition and machine learning. New York: Springer, 738 p.

• Theodoridis, Sergios, et Konstantinos Koutroumbas. 2009. Pattern recognition, 4th Edition. Burlington, Mass.: Academic Press.

• Vous avez accès au document électronique complet à partir de books24x7.

Moodle GTI771  – https://ena.etsmtl.ca/course/view.php?id=15501