[ИАД, весна 2026] Введение в машинное обучение. Лекция 11: Композиционные методы машинного обучения

[ИАД, весна 2026] Введение в машинное обучение. Лекция 11: Композиционные методы машинного обучения

🎙 Machine Learning – Intelligent Systems 👥 8K 📅 30 avril 2026 ⏱ 109 min 👁 153 📄 cours magistral 🧭 2026-08-16
Disponible en : Français (actuel) English

Mots-clés

baggingvotingensembleZhuravlevapprentissage automatique

Résumé

Cette onzième leçon du cours d’introduction au machine learning (printemps 2026) est consacrée aux méthodes d’ensemble (compositions). Le professeur commence par un rappel historique : il présente les travaux fondateurs de l’académicien Yuri Zhuravlev, qui, dans les années 1960, a résolu des problèmes de classification sur de très petits échantillons (7 objets positifs, 11 négatifs) en combinant plusieurs principes : la logique, l’évolution, le bayésianisme, etc. Zhuravlev a introduit l’idée de comparer des paires d’objets pour augmenter la taille effective de l’échantillon, et a développé une approche algébrique de la reconnaissance. Le cours définit ensuite les concepts clés : les classifieurs à valeurs réelles, les règles de décision, et les fonctions d’agrégation. Il détaille les différentes formes de vote : simple, pondéré, et la notion de mélange d’experts. La partie principale est consacrée au bagging (bootstrap aggregating), une méthode qui consiste à entraîner plusieurs modèles sur des sous-échantillons aléatoires (avec remise) puis à moyenner leurs prédictions. Le professeur explique l’importance de la diversité des modèles de base pour que l’agrégation soit efficace. Il mentionne également d’autres techniques comme l’utilisation de sous-ensembles de caractéristiques ou le bruitage des données. La leçon se termine par une discussion sur les perspectives et une question aux étudiants sur le thème de la prochaine séance.

210 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : le cours offre une perspective historique unique sur les origines des méthodes d’ensemble, souvent absente des manuels modernes. L’argumentation est solide, s’appuyant sur des exemples concrets (le problème géologique de Zhuravlev) et des justifications mathématiques (réduction de variance, diversité). Le professeur explique clairement pourquoi le bagging fonctionne, en soulignant le rôle de la diversité des modèles. Il établit des parallèles avec d’autres approches (réseaux de neurones, SVM), ce qui enrichit la compréhension. La démonstration est progressive et bien structurée, même si certains points techniques (comme l’approche algébrique) sont survolés.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : le cours s’appuie sur des références historiques précises (articles de Zhuravlev de 1967-1968, travaux de Breiman sur le bagging, etc.) et des concepts mathématiques bien établis. Les sources sont citées de manière informelle mais crédibles. L’adéquation entre le titre et le contenu est parfaite : il s’agit bien d’une introduction aux méthodes d’ensemble. Le niveau technique est adapté à un public étudiant, avec des explications claires sans être trop simplifiées. On note une certaine partialité envers l’école russe, mais cela reste objectif. Les commentaires ne sont pas fournis, donc aucune analyse des tendances du public n’est possible.

214 mots

Adéquation titre / contenu

Le titre correspond parfaitement au contenu : il s'agit bien d'une introduction aux méthodes d'ensemble (compositions) dans le cadre d'un cours de machine learning.

Qualité & fiabilité

8/10

Cours universitaire structuré, s'appuyant sur des références historiques précises (travaux de Zhuravlev, articles de 1967-1968) et des concepts mathématiques solides. La présentation est claire et didactique, avec une mise en perspective historique et théorique. Quelques limites : pas de démonstrations formelles complètes, mais une vulgarisation de haut niveau.

Moments clés

Sources citées

  • Zhuravlev, Yu. I. (1967-1968). Articles sur la reconnaissance de formes et le pronostic géologique. — Cité comme fondement de la méthode de comparaison de paires d'objets.
  • Domingos, P. (2015). The Master Algorithm. — Référence au livre qui propose cinq écoles de l'apprentissage automatique.
  • Breiman, L. (1996). Bagging Predictors. — Mentionné comme source de la méthode du bagging.

Sources concordantes

  • Breiman, L. (1996). Bagging Predictors. — Confirme l'efficacité du bagging pour réduire la variance.
  • Domingos, P. (2015). The Master Algorithm. — Propose une classification des écoles de l'apprentissage, en accord avec le cadre présenté.

Apport & nouveautés

Cette leçon apporte un éclairage historique original sur les méthodes d’ensemble, en reliant les travaux pionniers de Zhuravlev aux techniques modernes comme le bagging. Elle met en évidence l’importance de la diversité des modèles et propose une taxonomie claire des fonctions d’agrégation. L’approche pédagogique, qui part d’un problème concret pour aboutir à des concepts généraux, est particulièrement efficace.

Pour aller plus loin :

  • Bagging (Wikipedia) — Article de synthèse sur la méthode du bagging.
  • Ensemble learning (Wikipedia) — Vue d’ensemble des méthodes d’ensemble.
  • Random forest (Wikipedia) — Extension du bagging aux arbres de décision.
  • Yuri Zhuravlev (Wikipedia) — Biographie et travaux du mathématicien russe.

104 mots

Profil radar

Le profil radar montre une bonne maîtrise du sujet avec des scores élevés en quantité et qualité d'information, ainsi qu'en fiabilité. Le niveau technique est légèrement inférieur, ce qui reflète une approche plus conceptuelle que mathématique. La fiabilité globale est renforcée par l'utilisation de références historiques solides.

Fiabilité 8/10