Getting Started with Edge AI on NVIDIA Jetson: LLMs, VLMs, and Foundation Models for Robotics

Getting Started with Edge AI on NVIDIA Jetson: LLMs, VLMs, and Foundation Models for Robotics

🎙 NVIDIA Developer 👥 222K 📅 12 décembre 2025 ⏱ 54 min 👁 9K 📄 tutoriel 🧭 2026-08-13
Disponible en : Français (actuel) English

Mots-clés

Jetson OrinGPT-OSSGemma 3Open WebUILive VLM WebUI

Résumé

Cette vidéo de la chaîne NVIDIA Developer, animée par Chris, Chen et Chioku, présente un guide pratique pour débuter avec l’IA embarquée sur les kits de développement NVIDIA Jetson. Les intervenants commencent par un aperçu des trois kits Jetson : le Jetson Orin Nano Super, le Jetson AGX Orin et le Jetson AGX Thor, en soulignant leurs capacités respectives pour exécuter des modèles de langage et de vision. Ensuite, Chioku détaille le processus de démarrage pour chaque kit, incluant la mise à jour du firmware, le flashage de la carte SD ou l’utilisation d’une clé USB. La première démonstration montre comment installer et utiliser Open WebUI avec un modèle GPT-OSS 20B sur un Jetson AGX Orin, permettant d’interagir avec un assistant IA local. La deuxième démonstration porte sur les modèles de vision-langage (VLM) avec Live VLM WebUI, exécuté sur un Jetson Orin Nano Super, où un modèle Gemma 3 analyse en temps réel le flux vidéo d’une webcam. Les intervenants insistent sur l’importance de choisir le bon kit selon les besoins, et mentionnent des promotions hivernales. La vidéo se conclut par une session de questions-réponses avec l’audience.

187 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La vidéo apporte une valeur pratique certaine en montrant concrètement comment déployer des modèles génératifs sur du matériel embarqué. Les démonstrations en direct, bien que parfois sujettes à des ralentissements, illustrent les performances réelles et les possibilités offertes. L’argumentation est solide : les intervenants justifient l’intérêt de l’IA en périphérie par la confidentialité des données, la latence réduite et l’autonomie des robots. Ils comparent également les capacités des différents kits, aidant les développeurs à choisir le matériel adapté. Cependant, la présentation reste promotionnelle, avec des mentions répétées de réductions et d’offres spéciales, ce qui peut nuire à l’objectivité. Les explications techniques sont suffisantes pour un public débutant, mais manquent de profondeur pour les utilisateurs avancés.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : les informations proviennent de NVIDIA, une source fiable dans le domaine. Les démonstrations sont réalisées en direct, ce qui renforce la crédibilité. Les sources citées incluent des blogs officiels et des tutoriels de la Jetson AI Lab, bien que les liens ne soient pas explicitement fournis dans la vidéo. Le titre est en adéquation avec le contenu, qui couvre effectivement les LLM, VLM et modèles de fondation pour la robotique. Cependant, la vidéo ne fournit pas de références académiques ou de comparaisons avec d’autres solutions, ce qui limite la portée scientifique. Les commentaires ne sont pas fournis, donc aucune analyse des tendances du public n’est possible.

242 mots

Adéquation titre / contenu

Le titre correspond parfaitement au contenu : la vidéo couvre bien la mise en route avec les LLM, VLM et modèles de fondation sur les Jetson pour la robotique.

Qualité & fiabilité

8/10

Contenu produit par NVIDIA, leader en matériel IA, avec démonstrations en direct et références à des tutoriels officiels. Les informations sont précises et à jour, mais la présentation est promotionnelle et manque de détails techniques approfondis.

Moments clés

Sources citées

  • Getting Started with Jetson — Guide officiel pour démarrer avec les kits Jetson.
  • Jetson AI Lab — Plateforme regroupant des tutoriels et exemples pour Jetson.
  • Open WebUI — Interface web open-source pour interagir avec des modèles de langage.
  • Live VLM WebUI — Outil pour tester des modèles de vision-langage en temps réel.

Sources concordantes

Apport & nouveautés

La vidéo apporte une introduction pratique et accessible à l’IA embarquée sur les Jetson, en montrant des exemples concrets d’exécution de LLM et VLM. Elle met en lumière les capacités des nouveaux kits, notamment le Jetson Orin Nano Super et le Jetson AGX Thor, et fournit des conseils pour choisir le matériel adapté. L’accent mis sur les modèles open-source et les outils comme Open WebUI et Live VLM WebUI est pertinent pour les développeurs souhaitant créer des applications de robotique.

Pour aller plus loin :

  • NVIDIA Jetson — Page officielle des modules Jetson, utile pour comparer les spécifications.
  • GPT-OSS — Page Hugging Face du modèle GPT-OSS 20B mentionné dans la vidéo.
  • Gemma 3 — Page Hugging Face du modèle Gemma 3 utilisé pour la démonstration VLM.
  • Riva — SDK de NVIDIA pour la reconnaissance et la synthèse vocale, mentionné pour la fusion avec les LLM.

145 mots

Profil radar

Le profil radar montre des scores élevés en qualité et fiabilité, mais un niveau technique modéré, reflétant une vidéo orientée débutants. La quantité d'informations est correcte, mais la profondeur technique pourrait être améliorée pour un public avancé.

Fiabilité 8/10