How to finetune LLMs on custom data domains (CPT tutorial with Unsloth)

Valeur des informations & solidité de l’argumentation

La vidéo offre une valeur pratique considérable pour toute personne souhaitant fine-tuner des LLM sur des données personnalisées. L’auteur présente une méthodologie expérimentale complète, depuis la collecte des données jusqu’à l’évaluation, en passant par le choix des hyperparamètres. L’argumentation est solide : chaque décision est justifiée par des considérations théoriques (complexité quadratique de l’attention, stabilité de l’entraînement, overfitting) et par des résultats expérimentaux concrets. La comparaison entre full fine-tuning et LoRA est particulièrement éclairante, montrant clairement les avantages de la seconde approche en termes de coût et de vitesse. L’auteur ne se contente pas de donner des recettes, il explique le ‘pourquoi’ derrière chaque choix, ce qui permet au spectateur de généraliser les concepts à d’autres situations.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : l’auteur suit une démarche expérimentale structurée, avec une séparation train/validation, une évaluation multi-métriques et une attention à l’overfitting. Les sources citées sont pertinentes : le dépôt GitHub du projet, la documentation Unsloth, le modèle SmolLM-135M sur Hugging Face, et les vidéos complémentaires de la série. Le titre est parfaitement adéquat au contenu. Aucune publicité n’est présente dans la vidéo, mais l’auteur mentionne son Patreon et Paper Breakdown, ce qui est une forme de promotion, sans impact sur la qualité scientifique.

Le titre correspond parfaitement au contenu : il s'agit bien d'un tutoriel sur le fine-tuning de LLM sur des domaines de données personnalisés, avec une mise en pratique utilisant Unsloth.

8/10

Le contenu est un tutoriel pratique détaillé, présentant une méthodologie expérimentale claire et reproductible. Les explications sont précises et s'appuient sur des bibliothèques reconnues (Unsloth, Hugging Face). Les sources citées sont pertinentes et directement liées au contenu. La démarche expérimentale est rigoureuse, avec une évaluation multi-métriques et une attention portée à l'overfitting. Quelques points restent implicites (détails de nettoyage, choix des hyperparamètres), mais l'ensemble est fiable.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction : objectif de la série sur le fine-tuning de petits LLM pour la production.
• 02:00Présentation du plan de la vidéo : CPT, préparation des données, choix LoRA vs full fine-tuning, évaluation.
• 04:00Explication du CPT et choix du modèle SmolLM-135M et du dataset d'articles arXiv.
• 06:00Préparation des données : téléchargement des PDF, extraction du texte, troncature et packing.
• 08:00Présentation des hyperparamètres clés : max length, batch size, gradient accumulation, gradient clipping.
• 10:00Discussion sur le packing et la troncature pour optimiser l'utilisation du GPU.
• 12:00Comparaison full fine-tuning vs LoRA : coût, vitesse, risques de catastrophic forgetting.
• 14:00Mise en place du harnais d'évaluation : cross-entropy, ROUGE, BLEU, BERTScore.
• 16:00Premiers résultats : overfitting rapide avec 25 papers, augmentation du dataset à 200 papers.
• 18:00Nettoyage des données : suppression des références et bibliographies, amélioration des résultats.
• 20:00Utilisation de RS-LoRA pour augmenter la capacité du modèle sans perte de performance.
• 22:00Conclusion : importance de l'itération expérimentale, recommandation des notebooks Unsloth.

• Dépôt GitHub du projet — Code source et notebooks utilisés dans la vidéo.
• SmolLM-135M sur Hugging Face — Modèle de base utilisé pour le CPT.
• Guide des datasets Unsloth — Documentation sur les formats de datasets supportés.
• Notebooks Unsloth — Notebooks de référence pour le fine-tuning.
• Vidéo 2 de la série (SFT) — Suite du cours sur le supervised fine-tuning.
• Vidéo 3 de la série (DPO) — Suite du cours sur le direct preference optimization.
• Tutoriel fine-tuning from scratch — Tutoriel plus bas niveau sur le fine-tuning.

• Unsloth documentation — Documentation officielle d'Unsloth, cohérente avec les explications de la vidéo.
• Hugging Face documentation on fine-tuning — Documentation générale sur le fine-tuning, en accord avec les concepts présentés.

• youtu.be