[ИАД, весна 2026] Введение в машинное обучение. Лекция 10: Эволюционные методы машинного обучения

[ИАД, весна 2026] Введение в машинное обучение. Лекция 10: Эволюционные методы машинного обучения

🎙 Machine Learning – Intelligent Systems 👥 8K 📅 23 avril 2026 ⏱ 88 min 👁 151 📄 cours magistral 🧭 2026-08-16
Disponible en : Français (actuel) English

Mots-clés

évolutionsélection de modèlessélection de caractéristiquesrégularisationVC dimension

Résumé

Ce cours magistral, dixième d’une série sur l’apprentissage automatique, aborde les méthodes évolutionnaires. L’enseignant commence par un rappel historique : il cite Alexeï Ivakhnenko, pionnier soviétique des réseaux de neurones profonds et de la méthode des groupements argumentés (MGA), qui a introduit le principe d’auto-organisation des modèles et de nombreux critères externes. Il explique ensuite la différence entre critères internes et externes, soulignant que les critères internes sont biaisés et ne permettent pas de sélectionner la structure du modèle. Il présente les travaux de Vapnik et Chervonenkis sur la théorie statistique de l’apprentissage, notamment la dimension VC et la minimisation du risque structurel. Il relie ces concepts à la régularisation, montrant que les pénalités de complexité (L0, L1, L2) peuvent être vues comme des critères externes. Il aborde ensuite la sélection de caractéristiques (feature selection), un problème NP-difficile, et propose des heuristiques comme les méthodes de filtrage, wrapper et les algorithmes évolutionnaires. Il mentionne également la régression symbolique et le concept de programmation génétique. Enfin, il discute de l’utilisation de critères multiples et de l’optimisation multi-objectifs, illustrant comment les algorithmes évolutionnaires peuvent gérer ces compromis.

185 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : le cours offre une perspective historique rare sur les contributions soviétiques, souvent ignorées, et relie des concepts théoriques fondamentaux (VC dimension, régularisation) à des applications pratiques. L’argumentation est solide, s’appuyant sur des démonstrations formelles et des exemples concrets. L’enseignant prend soin de justifier chaque concept et de montrer ses implications. La progression est logique, des fondements théoriques aux méthodes pratiques.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : les références à Ivakhnenko, Vapnik et Chervonenkis sont exactes et contextualisées. Les explications sur les critères externes et la régularisation sont précises. Le titre est en adéquation avec le contenu. Cependant, certaines affirmations historiques (comme la première deep neural network) pourraient être nuancées, et le cours ne fournit pas de sources bibliographiques détaillées dans la description. La qualité des sources est donc correcte mais perfectible.

153 mots

Adéquation titre / contenu

Le titre correspond parfaitement au contenu : il s'agit bien d'une introduction aux méthodes évolutionnaires en apprentissage automatique, dans le cadre d'un cours universitaire.

Qualité & fiabilité

8/10

Cours universitaire structuré, s'appuyant sur des références historiques et théoriques solides (Ivakhnenko, Vapnik-Chervonenkis). Exposé clair et pédagogique, avec des démonstrations formelles. Quelques approximations dans les explications, mais globalement fiable.

Moments clés

Sources citées

  • Pedro Domingos, 'The Master Algorithm' — Référence à la classification des écoles de machine learning.
  • Alexey Ivakhnenko, 'Heuristic self-organization in problems of engineering cybernetics' — Travaux fondateurs sur la méthode des groupements argumentés.
  • Vapnik & Chervonenkis, 'On the uniform convergence of relative frequencies of events to their probabilities' — Théorie statistique de l'apprentissage et dimension VC.
  • Akaike, 'Information theory and an extension of the maximum likelihood principle' — Critère d'information d'Akaike (AIC).
  • Schwarz, 'Estimating the dimension of a model' — Critère d'information bayésien (BIC).

Sources concordantes

  • Pedro Domingos, 'The Master Algorithm' — Classification des écoles de machine learning, mentionnée dans le cours.
  • Vapnik, 'The Nature of Statistical Learning Theory' — Ouvrage de référence sur la théorie statistique de l'apprentissage.

Apport & nouveautés

Ce cours apporte une perspective historique et théorique sur les méthodes évolutionnaires, en mettant en lumière des contributions souvent méconnues de scientifiques soviétiques. Il relie des concepts fondamentaux (VC dimension, régularisation) à des approches pratiques de sélection de modèles. La présentation est pédagogique et structurée, facilitant la compréhension de sujets complexes.

Pour aller plus loin :

  • Dimension de Vapnik-Chervonenkis — Pour approfondir la notion de capacité d’un modèle.
  • Méthode des groupements argumentés — Pour en savoir plus sur les travaux d’Ivakhnenko.
  • Critère d’information d’Akaike — Pour comprendre l’AIC et son utilisation.
  • Programmation génétique — Pour explorer les algorithmes évolutionnaires appliqués aux programmes.

102 mots

Profil radar

Le profil radar montre un équilibre entre les différents scores, avec une légère prédominance de la quantité d'information et de la fiabilité. Cela indique un contenu riche et fiable, adapté à un public averti.

Fiabilité 8/10

💬 Sur les 0 commentaires analysés, aucune tendance n'est observable.