[ИАД, осень 2025] Foundation models for spatial-time series. Занятие 1

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée pour un public averti : le cours fournit une perspective originale sur l’utilisation des LLM pour la modélisation de séries temporelles, en intégrant des contraintes physiques. L’argumentation est solide, s’appuyant sur des références théoriques (Hinton, Vapnik) et des exemples concrets (Prophet, LLaMA). Cependant, certaines démonstrations sont allusives et le lien entre les concepts est parfois implicite, ce qui peut nécessiter des connaissances préalables. La proposition d’architecture en trois étapes est intéressante mais reste à valider expérimentalement.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est correcte : l’enseignant cite des travaux académiques et des ouvrages de référence, et s’appuie sur des travaux d’étudiants. Les sources mentionnées (Raschka, Hinton, Vapnik, Prophet) sont pertinentes et crédibles. Cependant, aucune source externe n’est fournie dans la description de la vidéo, et les références sont évoquées oralement sans être systématiquement détaillées. L’adéquation entre le titre et le contenu est bonne, même si le titre est en anglais et le cours en russe, ce qui peut être un frein pour certains. La présentation est parfois confuse (pertes de slides, digressions), mais le contenu reste cohérent.

Le titre annonce une introduction aux modèles de fondation pour séries temporelles spatio-temporelles, ce que le contenu couvre effectivement, bien que la présentation soit davantage une discussion de cours qu'une synthèse exhaustive.

7/10

Cours universitaire de niveau master, présenté par un enseignant-chercheur, s'appuyant sur des références académiques (Hinton, Vapnik, Raschka) et des travaux d'étudiants. Le contenu est structuré et cohérent, mais certaines affirmations manquent de preuves expérimentales et la présentation est parfois confuse.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction du cours, prérequis et objectifs.
• 03:00Présentation de la motivation : créer un système de comparaison de modèles basé sur un LLM.
• 07:00Définition de la tâche : entrée (série temporelle, contexte, modèle a priori, prompt) et sortie (meilleur modèle, rapport comparatif).
• 10:00Explication des Physics-Informed Neural Networks (PINN) et lien avec la distillation et l'apprentissage privilégié.
• 15:00Illustration de la construction d'une fonction de perte avec deux termes (données et contraintes) et paramètre de pondération.
• 20:00Généralisation aux autoencodeurs et aux contraintes physiques.
• 25:00Deuxième message : les séries temporelles sont des problèmes de régression croisée/auto-régressive, introduction aux espaces d'états.
• 30:00Architecture en trois étapes : Hankelisation, réduction de dimension, alignement dans un espace latent.
• 35:00Discussion sur les modèles existants (Prophet) et proposition de projet : construire un LLM pour sélectionner des modèles.
• 40:00Présentation des travaux d'étudiants : architecture LLaMA et application à la prédiction de séries temporelles.

• Build a Large Language Model (From Scratch) — Recommandé par l'enseignant pour apprendre à travailler avec les LLM.
• Prophet (Facebook) — Bibliothèque de modèles de prévision de séries temporelles, mentionnée comme exemple de modèles simples.
• Talking GPT — Projet d'étudiant basé sur LLaMA pour la génération de modèles.

• Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations — Article fondateur de Raissi et al. sur les PINN, cité implicitement dans le cours.
• Distilling the Knowledge in a Neural Network — Article de Hinton et al. sur la distillation, mentionné comme lien avec les PINN.

• Aucune source discordante identifiée — Le cours ne présente pas de controverses scientifiques majeures.