Eva Silverstein:Learning Dynamics, Representations and Symmetry Breaking (September 24, 2026)

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’exposé rassemble des résultats récents de la collaboration, souvent non encore publiés, et les replace dans un cadre conceptuel physique cohérent. L’approche par théorie effective est particulièrement pertinente pour isoler les degrés de liberté pertinents de l’apprentissage, sans se perdre dans les détails microscopiques. L’argumentation s’appuie sur des dérivations successives rigoureuses et sur des comparaisons empiriques, comme l’overlap entre les sous-espaces de représentations prédits et ceux observés dans des réseaux entraînés. Chaque étape est motivée par une question claire (échantillonnage, stabilité, émergence de structure, rôle des symétries). La présentation a soin de distinguer les régimes approchés et les limites des modèles jouets, tout en soulignant l’intérêt heuristique de ces simplifications. La discussion avec l’auditoire montre une attention aux conditions de validité, notamment sur la généricité des hypothèses.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est exemplaire : la conférencière est une physicienne reconnue, et les travaux présentés émanent de groupes spécialisés en théorie des champs, en physique statistique et en apprentissage automatique. Les méthodes sont décrites avec précision (DMFT, développements de Taylor, analyse spectrale, modèles de Potts), et les comparaisons avec des réseaux entraînés valident les approximations. Seule source explicitement fournie dans la description : la page de l’événement de la fondation Simons, qui fait foi pour le cadre institutionnel ; les citations de travaux internes sont nombreuses mais sans liens directs, ce qui limite la vérification immédiate. L’adéquation titre-contenu est parfaite, le titre annonçant exactement les trois thèmes développés. Aucune publicité ni séquence sponsorisée n’est présente.

Le titre correspond exactement au contenu : la conférence traite de la dynamique d'apprentissage, du développement des représentations et du rôle de la brisure de symétrie, notamment dans les transformers.

8/10

Exposé scientifique de haut niveau, fondé sur des méthodes établies et des résultats comparés à des expériences, mais avec peu de sources vérifiables directement dans le contenu.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 01:00Introduction : objectifs de la théorie effective de l'apprentissage.
• 05:00Filtrage neural de bas rang : approximation couche par couche et comparaison empirique.
• 10:00Spectre du noyau, théorie du champ moyen dynamique et stabilité de l'apprentissage.
• 15:00Modèle jouet de transformer pour données séquentielles : échappement et nombre d'étapes.
• 20:00Descente de gradient stochastique, phases du paysage et barrières de loss.
• 25:00Symétries : directions plates et problème de hiérarchie dans les réseaux.
• 30:00Modèle de Potts pour les symétries discrètes et transitions d'apprentissage.
• 35:00Symétries continues dans les transformers : rotation clés/requêtes et anomalies.
• 40:00Conclusions et perspectives de la collaboration.

• Simons Collaboration on the Physics of Learning and Neural Computation Annual Meeting 2026 — Page officielle de l'événement où s'est tenue la présentation, référence institutionnelle.