An introduction to the Random Walk Metropolis algorithm

Cette vidéo pédagogique présente l’algorithme de Metropolis à marche aléatoire, une méthode de Monte Carlo par chaînes de Markov (MCMC) utilisée en statistique bayésienne pour échantillonner une distribution a posteriori. L’auteur explique d’abord le principe général : on génère une chaîne de Markov dont la distribution stationnaire est la distribution cible, en utilisant uniquement le numérateur de la règle de Bayes. Il détaille ensuite les étapes de l’algorithme : initialisation avec une distribution de proposition arbitraire, puis à chaque itération, proposition d’un nouveau point selon une distribution symétrique centrée sur la position courante (souvent une normale), calcul du rapport de vraisemblance entre la nouvelle position et l’ancienne, et acceptation ou rejet de la proposition en comparant ce rapport à un nombre aléatoire uniforme. Des animations Mathematica illustrent le comportement de l’algorithme sur des distributions unidimensionnelles et bidimensionnelles, montrant comment les échantillons finissent par approcher la distribution cible. L’auteur souligne que l’algorithme converge asymptotiquement vers la distribution cible sous des conditions générales, mais que sa performance en échantillon fini dépend de la forme de la distribution et du choix du pas (sigma). Il conclut en rappelant la simplicité et la large applicabilité de l’algorithme, même s’il peut être inefficace.