Evaluating model fit through AIC, DIC, WAIC and LOO-CV

Evaluating model fit through AIC, DIC, WAIC and LOO-CV

🎙 Ben Lambert 👥 148K 📅 3 mai 2018 ⏱ 11 min 👁 25K 📄 vulgarisation 🧭 2026-08-17
Disponible en : Français (actuel) English

Mots-clés

critère d'informationvalidation croiséeinférence bayésienneajustement de modèlelog-vraisemblance

Résumé

Cette vidéo de Ben Lambert, issue d’un cours sur les statistiques bayésiennes, présente les principaux critères pour évaluer la qualité prédictive d’un modèle : AIC, DIC, WAIC et LOO-CV. L’auteur explique d’abord le problème de la sélection de modèle et le risque de surajustement lorsqu’on utilise les mêmes données pour entraîner et tester. Il introduit ensuite chaque critère, en détaillant leur mesure de l’ajustement (log-vraisemblance) et leur terme de pénalité pour la complexité. AIC utilise le maximum de vraisemblance et pénalise par le nombre de paramètres ; DIC utilise l’estimation MAP et pénalise par la variance de la log-vraisemblance sur les tirages postérieurs ; WAIC fait la somme sur les points de données de la log-vraisemblance moyenne, avec une pénalité point par point ; LOO-CV, quant à lui, ré-entraîne le modèle sur toutes les données sauf un point, et répète pour chaque point, ce qui est coûteux mais donne une estimation directe de l’erreur hors échantillon. L’auteur compare ces méthodes sur un graphique qualité vs coût de calcul, et mentionne le package R ’loo’ qui implémente une approximation efficace de LOO-CV par échantillonnage d’importance lissé de Pareto.

187 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La vidéo apporte une valeur pédagogique certaine en clarifiant les différences entre ces critères souvent confondus. L’argumentation est solide : l’auteur part du problème fondamental (généralisation) et montre comment chaque critère tente de le résoudre, avec des explications intuitives des termes de pénalité. Il utilise des formules mathématiques pour préciser les définitions, ce qui renforce la rigueur. La comparaison finale sur deux axes (coût de calcul vs qualité d’approximation) est très éclairante et aide à choisir le critère approprié selon le contexte.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : l’auteur est un universitaire et le contenu est conforme aux définitions standards. Il mentionne le package R ’loo’ et ses auteurs, ce qui ancre le propos dans la pratique. Le titre est parfaitement adéquat au contenu. Les sources citées dans la description (site de l’auteur, playlist) sont pertinentes pour approfondir, mais aucune référence bibliographique précise n’est donnée dans la vidéo elle-même. La qualité des sources est donc correcte mais limitée.

173 mots

Adéquation titre / contenu

Le titre décrit exactement le contenu : présentation et comparaison de AIC, DIC, WAIC et LOO-CV.

Qualité & fiabilité

8/10

Explication claire et pédagogique des critères d'information bayésiens, avec formules et intuition. L'auteur est un universitaire reconnu (UCL), et le contenu est cohérent avec la littérature. Quelques approximations (ex. DIC) mais globalement fiable.

Moments clés

Sources citées

Sources concordantes

Apport & nouveautés

L’apport principal est de clarifier les différences entre AIC, DIC, WAIC et LOO-CV, en insistant sur les intuitions derrière les termes de pénalité. La comparaison sur deux axes (coût de calcul vs qualité d’approximation) est originale et utile pour la pratique. La mention du package R ’loo’ et de l’approximation PSIS est un plus.

Pour aller plus loin :

104 mots

Profil radar

Le profil radar montre un bon équilibre entre quantité et qualité d'information, avec un niveau technique élevé et une fiabilité solide. La vidéo est dense mais bien structurée, adaptée à un public ayant des bases en statistiques.

Fiabilité 8/10