Sherry Yang: Learning World Models and Agents for High-Cost Environments

Sherry Yang: Learning World Models and Agents for High-Cost Environments

par Sherry Yang

Sciences appliquées & ingénierie IA — Actualité & Applications UYInformatiqueUYQIntelligence artificielle (IA)
🎙 Sherry Yang 👥 845 📅 26 août 2026 ⏱ 58 min 👁 2 📄 exposé scientifique 🧭 2026-08-26
Disponible en : Français (actuel) English

Mots-clés

modèle du mondeapprentissage par renforcementrobotiqueévaluation de politiquesgénération vidéo

Résumé

Sherry Yang, professeure assistante à NYU et chercheuse chez Google DeepMind, présente ses travaux sur l’apprentissage de modèles du monde et d’agents pour des environnements à coût élevé. Elle commence par rappeler que les succès de l’IA (AlphaGo, LLMs) reposent sur des environnements à faible coût d’interaction, ce qui n’est pas le cas en robotique, en ingénierie ML ou en sciences. Elle propose d’utiliser des modèles du monde appris sur des données vidéo à grande échelle comme simulateurs haute fidélité pour la robotique, permettant une évaluation et un entraînement de politiques sans interaction physique coûteuse. Elle présente le modèle UniSim, entraîné sur des données hétérogènes (vidéos humaines, robots réels et simulés), contrôlable par texte ou par actions de bas niveau. Ensuite, elle détaille l’utilisation de ce modèle pour l’évaluation de politiques robotiques (WorldGym), montrant que les taux de succès prédits sont proches des taux réels, et permettant des tests hors distribution (ajout d’objets, distracteurs) impossibles en conditions réelles. Elle aborde aussi l’adaptation de l’apprentissage par renforcement pour des actions longues (ex. exécution de programmes ML) et l’utilisation de modèles génératifs compositionnels pour proposer des expériences scientifiques. La présentation se conclut sur les perspectives de recherche, notamment l’intégration de modèles du monde dans des boucles d’apprentissage par renforcement.

207 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’exposé présente des résultats de recherche originaux et des idées novatrices, avec des démonstrations concrètes (ex. évaluation de politiques robotiques dans un modèle du monde). L’argumentation est solide, structurée autour de la problématique du coût d’interaction, et s’appuie sur des exemples et des comparaisons quantitatives. La chercheuse justifie bien le choix des modèles du monde comme solution, en montrant leurs avantages par rapport aux simulateurs classiques. Elle identifie aussi les limites et les questions ouvertes, ce qui renforce la crédibilité du propos.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : les travaux présentés sont publiés ou en prépublication (arXiv), et la chercheuse cite ses propres papiers ainsi que des travaux connexes. La qualité des sources est correcte, même si la présentation orale ne permet pas toujours de vérifier les détails expérimentaux. L’adéquation titre/contenu est excellente : le titre reflète exactement le sujet traité. Aucun commentaire n’a été fourni pour cette vidéo.

171 mots

Adéquation titre / contenu

Le titre est parfaitement adéquat : il décrit précisément le contenu de l'exposé, qui porte sur l'apprentissage de modèles du monde et d'agents pour des environnements à coût élevé.

Qualité & fiabilité

8/10

Exposé scientifique par une chercheuse reconnue (NYU, Google DeepMind), s'appuyant sur des travaux publiés et des résultats expérimentaux. Le contenu est technique, précis, et les affirmations sont généralement étayées par des références à des papiers de recherche. Quelques limites : pas de détail des protocoles expérimentaux, et certaines démonstrations reposent sur des exemples qualitatifs.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • World Models (Ha & Schmidhuber, 2018) — Référence au concept de modèle du monde.
  • UniSim (Yang et al., 2024) — Modèle du monde entraîné sur des données internet.
  • WorldGym (Yang et al., 2025) — Utilisation d'un modèle du monde pour l'évaluation de politiques robotiques.
  • Open X-Embodiment Dataset — Ensemble de données robotiques utilisé pour entraîner le modèle du monde.
  • Octo — Politique robotique évaluée dans le modèle du monde.
  • OpenVLA — Politique robotique évaluée dans le modèle du monde.
  • RT-1 — Politique robotique évaluée dans le modèle du monde.
  • Nano Banana (Gemini Image Generation) — Modèle d'édition d'images utilisé pour les tests hors distribution.
  • VideoAgent — Travail collaboratif sur l'utilisation de modèles du monde pour la planification.

Sources concordantes

  • UniSim — Confirme la faisabilité de modèles du monde généraux.
  • WorldGym — Confirme l'utilisation de modèles du monde pour l'évaluation de politiques.

Sources discordantes

  • Sim-to-Real Transfer in Robotics — Certains travaux soulignent les limites des simulateurs pour le transfert vers le réel, ce qui pourrait nuancer l'efficacité des modèles du monde.

Apport & nouveautés

L’apport original de cette présentation est de proposer une approche unifiée pour traiter les environnements à coût élevé, en s’appuyant sur des modèles du monde appris à grande échelle. L’idée d’utiliser un modèle du monde comme environnement d’évaluation de politiques robotiques (WorldGym) est novatrice et ouvre des perspectives pour réduire les coûts et les risques des tests en conditions réelles. La démonstration de la perte de connaissances internet lors du fine-tuning de VLM en politiques robotiques est un résultat important pour la communauté.

Pour aller plus loin :

150 mots

Profil radar

Le profil radar montre un contenu très équilibré, avec des scores élevés dans toutes les dimensions (quantité, qualité, niveau technique, fiabilité). Cela reflète un exposé scientifique dense, rigoureux et accessible à un public averti.

Fiabilité 8/10