Build a Local LLM App in Python with Just 2 Lines of Code

La vidéo est une démonstration pratique de qualité, qui atteint son objectif de montrer la simplicité de programmation d’un LLM local en Python. L’approche est pédagogique et progressive : l’auteur commence par l’installation des outils, puis montre l’utilisation en ligne de commande, avant de passer au code Python. La bibliothèque chuk-llm, bien que présentée comme un outil personnel, est open source et semble bien pensée pour simplifier l’accès aux LLM. Les explications sur le streaming asynchrone et les system prompts sont claires et illustrées par des exemples concrets. La démonstration de la conversation multi-tours et de l’API de bas niveau permet de montrer les deux extrêmes : la simplicité et le contrôle. La rigueur scientifique est correcte : les concepts sont expliqués sans erreur majeure, et les démonstrations sont reproductibles. Les sources citées (Ollama, Granite, chuk-llm) sont pertinentes et fiables. Cependant, on peut noter un biais potentiel : l’auteur est un employé d’IBM et mentionne watsonx, ce qui pourrait être perçu comme une promotion indirecte. De plus, la vidéo ne discute pas des limites des LLM locaux (taille du modèle, ressources, qualité des réponses) ni des aspects de sécurité. L’adéquation titre/contenu est parfaite. Dans l’ensemble, c’est une ressource utile pour les développeurs souhaitant se lancer rapidement dans le développement d’applications LLM locales, avec une note de 4 étoiles sur 5.

Le titre est exact : la vidéo montre effectivement comment créer une application LLM locale en deux lignes de code Python.

8/10

Démonstration pratique claire et reproductible, s'appuyant sur des outils open source (Ollama, Granite, chuk-llm). L'auteur est un ingénieur IBM, ce qui renforce la crédibilité. Les explications sont pédagogiques et précises, sans exagération. La vidéo ne présente pas de conflit d'intérêts majeur, bien que l'auteur soit affilié à IBM et mentionne watsonx.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction : défi de créer une app LLM en deux lignes de code.
• 00:30Installation d'Ollama et téléchargement du modèle Granite 3.3.
• 02:00Test d'Ollama en ligne de commande avec 'ollama run granite3.3'.
• 03:00Installation de la bibliothèque chuk-llm via uv et test avec 'uvx chuk-llm test ollama'.
• 04:00Première interaction avec le modèle via 'uvx chuk-llm ask_granite'.
• 05:00Création d'un projet Python et ajout de la dépendance chuk-llm.
• 06:00Écriture des deux lignes de code : import et appel de ask_ollama_granite.
• 07:00Explication du fonctionnement interne : génération dynamique de la fonction.
• 08:00Utilisation de asyncio pour le streaming des réponses.
• 09:00Définition d'un persona via system prompt (exemple du pirate).
• 10:00Gestion de conversations multi-tours avec la fonction conversation.
• 11:00Utilisation de l'API de bas niveau get_client pour un contrôle fin.
• 12:00Construction manuelle des messages et appel de create_completion.
• 13:00Conclusion : récapitulatif des différentes approches.

• IBM watsonx.ai — Lien fourni dans la description pour en savoir plus sur les LLM et watsonx.
• Newsletter IBM AI — Inscription à la newsletter mensuelle pour les mises à jour IA d'IBM.
• Certification watsonx AI Assistant Engineer — Lien vers la certification mentionnée en début de description.

• Ollama — Outil utilisé dans la vidéo pour télécharger et exécuter des modèles localement.
• Granite — Modèle de langage open source d'IBM utilisé dans la démonstration.