[ИАД, осень 2025] Байесовский выбор моделей. Лекция 6: Байесовская логистическая регрессия

[ИАД, осень 2025] Байесовский выбор моделей. Лекция 6: Байесовская логистическая регрессия

par Machine Learning – Intelligent Systems

Sciences formelles & physiques IA — Modèles & Recherche UYQIntelligence artificielle (IA)UYQMApprentissage par la machine
🎙 Machine Learning – Intelligent Systems 👥 8K 📅 19 octobre 2025 ⏱ 99 min 👁 122 📄 cours magistral 🧭 2026-08-16
Disponible en : Français (actuel) English

Mots-clés

bayésienrégression logistiquesélection de modèlesévidencevraisemblance marginale

Résumé

Cette sixième leçon du cours « Sélection bayésienne de modèles » (automne 2025) approfondit la notion d’évidence (ou vraisemblance marginale) et son rôle dans la sélection de modèles, en se concentrant sur la régression logistique bayésienne. Le professeur commence par rappeler les concepts clés de la leçon précédente : l’évidence comme combinaison de la qualité d’ajustement et d’une pénalité de complexité, et son utilisation dans la moyenne de modèles. Il illustre ensuite ces idées avec un exemple de calibration d’instrument, où l’on compare un modèle sans biais systématique à un modèle avec biais. En dérivant analytiquement l’évidence pour ce cas simple (régression linéaire avec un seul paramètre), il montre que la meilleure modèle est celle qui maximise l’évidence, et que cela conduit naturellement à un test d’hypothèse : si le biais est suffisamment grand par rapport au bruit, le modèle avec biais est préféré. La leçon se poursuit avec une discussion sur la régression logistique bayésienne, en soulignant les défis analytiques et en introduisant des approximations comme l’approximation de Laplace. Le professeur insiste sur l’importance de la validation empirique par échantillonnage. La leçon se termine par des recommandations pour les devoirs et une ouverture vers des sujets plus avancés.

199 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : le cours fournit une compréhension approfondie de la sélection bayésienne de modèles, en reliant des concepts théoriques (évidence, pénalité de complexité) à des exemples concrets et à des dérivations mathématiques. L’argumentation est solide : le professeur justifie chaque étape, explique les hypothèses et les limites, et encourage la validation empirique. La démarche est rigoureuse et pédagogique, avec des interactions avec les étudiants qui enrichissent la discussion.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : les dérivations sont présentées de manière détaillée et les concepts sont correctement définis. Le cours s’appuie sur des principes mathématiques établis, mais aucune source externe n’est citée dans la vidéo ou la description. Le titre est en adéquation avec le contenu, qui traite bien de la régression logistique bayésienne dans le cadre de la sélection de modèles. Aucun commentaire n’est fourni, donc aucune analyse des tendances du public n’est possible.

164 mots

Adéquation titre / contenu

Le titre correspond exactement au contenu : il s'agit de la sixième leçon d'un cours sur la sélection bayésienne de modèles, consacrée à la régression logistique bayésienne.

Qualité & fiabilité

8/10

Cours universitaire structuré, présentant des dérivations mathématiques rigoureuses et des interprétations conceptuelles. Les explications sont claires et s'appuient sur des exemples concrets. La démarche est pédagogique et méthodique, avec une vérification empirique suggérée.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Apport & nouveautés

Cette leçon apporte une explication détaillée et pédagogique de la sélection bayésienne de modèles, en particulier pour la régression logistique. Elle met l’accent sur l’interprétation de l’évidence comme un compromis entre ajustement et complexité, et illustre ce concept avec des exemples concrets et des dérivations analytiques. L’originalité réside dans la clarté de l’exposé et dans l’approche progressive, qui permet de comprendre les fondements théoriques avant d’aborder des cas plus complexes.

Pour aller plus loin :

  • Bayesian model selection — Article de Wikipédia sur la sélection de modèles bayésienne, qui fournit une vue d’ensemble et des références.
  • Laplace approximation — Article sur la méthode de Laplace, utilisée pour approximer les intégrales, pertinente pour l’approximation de l’évidence.
  • Logistic regression — Article sur la régression logistique, qui donne les bases de ce modèle.
  • Bayesian inference — Article sur l’inférence bayésienne, qui contextualise les concepts abordés.

142 mots

Profil radar

Le profil radar montre des scores élevés et équilibrés dans toutes les dimensions (quantité, qualité, niveau technique, fiabilité), ce qui indique une vidéo de très bonne qualité, à la fois riche en contenu, rigoureuse et accessible à un public averti.

Fiabilité 8/10