Predictive coding and generative models in natural and artificial intelligence

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : Rao expose des concepts fondamentaux et des résultats de recherche récents, avec des références précises. L’argumentation est solide, s’appuyant sur des preuves expérimentales (illusions, réorganisation corticale) et des modèles mathématiques. Il établit des liens pertinents entre neurosciences et IA, montrant comment les principes du codage prédictif peuvent inspirer des architectures artificielles. La démonstration est progressive et pédagogique, mais certaines parties restent spéculatives, notamment l’extension à la cognition de haut niveau.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est exemplaire : l’auteur cite ses propres publications dans des revues à comité de lecture (Nature Neuroscience, PLOS Computational Biology, Neural Computation) et des travaux d’autres chercheurs. Les sources sont clairement identifiées et les concepts sont ancrés dans la littérature. L’adéquation entre le titre et le contenu est parfaite : le titre annonce exactement ce qui est traité. Aucune publicité n’est présente dans la vidéo.

Le titre reflète parfaitement le contenu : l'exposé couvre le codage prédictif et les modèles génératifs dans les intelligences naturelle et artificielle.

8/10

Exposé par un chercheur de premier plan, fondé sur des publications majeures et des travaux validés par les pairs. La présentation est claire et didactique, mais certaines simplifications (ex. analogie avec le filtre de Kalman) peuvent masquer des nuances techniques.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 02:00Introduction : présentation du conférencier et du sujet.
• 05:00Question de départ : le puzzle du néocortex, structure laminaire et flexibilité fonctionnelle.
• 10:00Modèle feed-forward traditionnel vs anatomie avec connexions de retour.
• 15:00Présentation du modèle de codage prédictif de 1999 avec Dana Ballard.
• 20:00Introduction à l'inférence bayésienne et à la notion de croyance a priori.
• 25:00Exemples d'illusions visuelles expliquées par des modèles bayésiens.
• 30:00L'hypothèse du cerveau bayésien et l'apprentissage d'un modèle génératif.
• 35:00Lien avec l'IA : l'apprentissage par prédiction du token suivant dans les transformers.
• 40:00Présentation du Dynamic Predictive Coding (Jiang & Rao, 2024).
• 45:00Présentation de l'Active Predictive Coding (Rao, 2024) et de la théorie sensorimotrice.

• Dynamic predictive coding: A model of hierarchical sequence learning and prediction in the neocortex — Référence au modèle de codage prédictif dynamique pour l'apprentissage de séquences.
• Active Predictive Coding: A Unifying Neural Model for Active Perception, Compositional Learning, and Hierarchical Planning — Référence au modèle de codage prédictif actif unifiant perception, action et planification.
• A sensory-motor theory of the neocortex based on active predictive coding — Référence à la théorie sensorimotrice du néocortex.
• Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects — Article fondateur de 1999 sur le codage prédictif dans le cortex visuel.

• Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects — Article fondateur de Rao et Ballard, confirmant les principes du codage prédictif.
• Dynamic predictive coding: A model of hierarchical sequence learning and prediction in the neocortex — Étude récente de Jiang et Rao, cohérente avec les travaux antérieurs.

• A critical review of predictive coding as a model of cognition — Certains chercheurs remettent en question la validité du codage prédictif comme modèle général de la cognition, soulignant des limites empiriques et conceptuelles.