How to train your LLM | AI Talk 54

How to train your LLM | AI Talk 54

🎙 Wasner + Steinschaden - Der KI-Podcast 👥 242 📅 26 novembre 2025 ⏱ 48 min 👁 90 📄 débat 🧭 2026-08-16
Disponible en : Français (actuel) English

Mots-clés

fine-tuningLLMMistralon-device AIAI Act

Résumé

Dans cet épisode de l’AI Talk, les animateurs Jakob Steinschaden et Clemens Wasner reçoivent Matthias Neumayr et Dima Rubanov, cofondateurs de HeyQ, pour discuter de leur expérience de fine-tuning d’un modèle de langage (LLM) pour leur application Oscar Stories, qui génère des histoires personnalisées pour enfants. Ils expliquent pourquoi ils ont choisi de fine-tuner un modèle plutôt que d’utiliser le prompting seul, en raison des limites des modèles génériques pour produire un langage adapté aux enfants. Le processus détaillé comprend la collecte et le nettoyage des données, le choix du modèle de base (Mistral 7B), et les défis techniques rencontrés, notamment lors de l’entraînement sur un MacBook M3. Ils comparent différents modèles open source et soulignent que Mistral a été retenu pour ses performances en allemand. Ils évoquent également leur vision de l’IA sur appareil (on-device) pour des raisons de confidentialité, et mentionnent leur certification TÜV pour la fiabilité. Enfin, ils discutent de l’impact de l’AI Act européen sur leur activité et sur l’industrie en général.

166 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée pour les auditeurs intéressés par le fine-tuning de LLM, car elle offre un retour d’expérience concret et détaillé. Les intervenants partagent des conseils pratiques, comme l’importance du nettoyage des données et la nécessité de définir des benchmarks. L’argumentation est solide, appuyée par des exemples concrets et des comparaisons entre modèles. Cependant, certaines affirmations restent générales et manquent de données chiffrées précises, ce qui limite la portée scientifique.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est correcte : les intervenants s’appuient sur leur expérience et mentionnent des sources comme les modèles Mistral et Llama, mais sans citer d’études académiques. La qualité des sources est moyenne, avec des liens vers leur site et un article du Financial Times. L’adéquation titre/contenu est bonne, le titre reflétant bien le sujet principal. Les commentaires ne sont pas fournis, donc aucune analyse des tendances du public n’est possible.

159 mots

Adéquation titre / contenu

Le titre est pertinent : l'épisode se concentre sur le processus de fine-tuning d'un LLM, avec des conseils pratiques et des retours d'expérience.

Qualité & fiabilité

7/10

Discussion experte entre fondateurs et animateurs, avec retours d'expérience concrets sur le fine-tuning d'un LLM. Les affirmations sont généralement étayées par des exemples pratiques, mais certaines généralités (coûts, performances) restent approximatives. La présence de liens vers des sources externes renforce la crédibilité.

Moments clés

Sources citées

  • Oscar Stories — Site officiel de l'application présentée dans l'épisode.
  • FT - Insurers retreat from AI cover as risk of multibillion-dollar claims mounts — Article mentionné en lien avec les risques de l'IA.

Sources concordantes

  • Oscar Stories — Application présentée, cohérente avec le discours.

Apport & nouveautés

L’apport original de cette vidéo réside dans le partage d’une expérience concrète de fine-tuning d’un LLM pour un cas d’usage spécifique (langage enfantin), avec des détails sur les choix techniques et les difficultés rencontrées. Cela offre une perspective pratique rare dans les discussions académiques.

Pour aller plus loin :

95 mots

Profil radar

Le profil radar montre une bonne quantité d'informations et un niveau technique correct, mais une fiabilité globale moyenne due à l'absence de sources académiques. La qualité de l'information est bonne grâce à l'expérience pratique, mais la rigueur scientifique est limitée.

Fiabilité 7/10