LLMs from Scratch – Practical Engineering from Base Model to PPO RLHF

Cette vidéo est une ressource exceptionnelle pour quiconque souhaite comprendre et implémenter les LLM en profondeur. La valeur principale réside dans son approche pratique : chaque concept théorique est immédiatement suivi d’une implémentation en PyTorch, ce qui permet de saisir les détails souvent négligés dans les présentations théoriques. La progression est logique, partant des fondements du transformer jusqu’aux techniques avancées de RLHF, en passant par des optimisations modernes comme RoPE et MoE. La rigueur scientifique est bonne : les explications s’appuient sur des papiers fondateurs (Attention is All You Need, etc.) et le code est fourni, ce qui permet une vérification. Cependant, on peut regretter que certaines parties théoriques soient survolées, mais cela est compensé par la richesse du code. La qualité des sources est correcte, avec des références aux travaux de Umar Jamil et Sebastian Raschka, mais il n’y a pas de citation formelle de papiers dans la vidéo elle-même. L’adéquation entre le titre et le contenu est parfaite : le titre annonce exactement ce qui est délivré. Les commentaires sont extrêmement positifs, les apprenants apprécient la clarté et la profondeur du contenu. Certains demandent des extensions sur des sujets connexes comme GRPO ou les techniques de DeepSeek, ce qui témoigne de l’intérêt suscité. En résumé, cette vidéo est une référence pour l’apprentissage pratique des LLM, avec une note globale de 5/5.

Le titre correspond parfaitement au contenu : construction complète d'un LLM de zéro jusqu'au RLHF.

8/10

Contenu technique dense, code fourni, approche pédagogique progressive, sources citées (papiers fondateurs) mais pas de vérification indépendante.

• 00:00Part 0 - Introduction
• 05:43Part 1 - Core Transformer Architecture
• 40:24Part 2 — Training a Tiny LLM
• 1:30:27Part 3 — Modernizing the Architecture
• 2:33:53Part 4 — Scaling Up
• 3:17:22Part 5 — Mixture-of-Experts (MoE)
• 3:44:19Part 6 — Supervised Fine-Tuning (SFT)
• 4:23:44Part 7 — Reward Modeling
• 4:59:55Part 8 — RLHF with PPO

• Code source du cours — Référentiel contenant tout le code présenté dans la vidéo.
• freeCodeCamp — Organisation à but non lucratif qui héberge la vidéo et propose des ressources d'apprentissage.
• freeCodeCamp News — Articles et tutoriels complémentaires sur la programmation.

• Attention Is All You Need — Base théorique du transformer.
• RoFormer: Enhanced Transformer with Rotary Position Embedding — Source de la technique RoPE.
• Training language models to follow instructions with human feedback — Référence pour le RLHF.

• scrimba.com