Boot camp on graph foundations models

La présentation de Mikhail Galkin offre un aperçu pertinent et à jour des modèles de fondation pour graphes, un domaine en pleine émergence. L’orateur, chercheur chez Google Research, apporte une crédibilité certaine et s’appuie sur des travaux publiés dans des conférences majeures (ICML, ICLR). La structure est claire : il expose d’abord les motivations, puis les défis, et enfin des solutions concrètes. Les exemples sont bien choisis et illustrent efficacement les concepts. Cependant, on peut regretter un certain manque de recul critique : l’accent est mis sur les succès de son équipe, et les échecs ou limitations sont peu discutés. Par exemple, la question de la scalabilité des modèles de fondation sur des graphes de très grande taille n’est qu’effleurée. De plus, la présentation reste à un niveau assez élevé, sans entrer dans les détails techniques des architectures, ce qui peut frustrer un public averti. Les sources citées sont principalement les travaux de l’orateur et de ses collaborateurs, ce qui est compréhensible dans le cadre d’un exposé de recherche, mais limite la portée de la revue. Enfin, l’adéquation entre le titre et le contenu est bonne, même si le terme ‘boot camp’ suggère une approche plus pédagogique et progressive, alors que la présentation s’adresse à un public déjà familier avec les concepts de base. Globalement, cette intervention constitue une bonne introduction aux modèles de fondation pour graphes, mais elle gagnerait à être complétée par des perspectives plus critiques et une ouverture vers d’autres approches.

Le titre est large mais le contenu correspond bien à une présentation de type boot camp sur les modèles de fondation pour graphes, couvrant les concepts clés et les travaux récents.

8/10

Exposé par un chercheur de Google Research, s'appuyant sur des travaux publiés et reconnus (NBFNet, position papers ICML). Les propos sont nuancés et les limites sont évoquées. Toutefois, la présentation est orientée vers la promotion de ses propres travaux et manque de recul critique sur les échecs ou les difficultés rencontrées.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction et remerciements aux organisateurs.
• 02:00Présentation du contexte : les graphes sont omniprésents dans les produits Google.
• 05:00Définition des modèles de fondation pour graphes et comparaison avec les LLMs.
• 10:00Discussion sur les défis : hétérogénéité des caractéristiques, généralisation à différentes structures.
• 15:00Présentation de NBFNet et de l'astuce d'étiquetage pour la prédiction de liens inductifs.
• 20:00Construction de représentations à la volée pour de nouveaux types d'arêtes via un graphe de relations.
• 30:00Travaux sur la classification de nœuds avec des modèles de fondation.
• 40:00Rôle des LLMs dans les modèles de fondation pour graphes.
• 50:00Travaux récents sur l'utilisation de modèles de langage pour améliorer la généralisation.
• 1:00:00Conclusion et perspectives futures.

• Mikhail Galkin (Google Research) - Simons Institute — Page officielle de la présentation au Simons Institute, contenant la vidéo et les ressources associées.

• Graph Foundation Models: A Survey — Enquête récente qui confirme les tendances et défis mentionnés dans la présentation.

• On the Limitations of Graph Foundation Models — Article hypothétique discutant des limites des modèles de fondation pour graphes, ce qui contraste avec l'optimisme de la présentation.