The Hard Truth About AI Agents: Lessons from Running Agents in Production

The Hard Truth About AI Agents: Lessons from Running Agents in Production

🎙 Hannes Hapke 👥 5K 📅 23 octobre 2025 ⏱ 33 min 👁 79 📄 revue d'actualité 🧭 2026-08-15
Disponible en : Français (actuel) English

Mots-clés

agentsproductioninfrastructureobservabilitémémoire

Résumé

Dans cette conférence enregistrée lors du MLOps World 2025, Hannes Hapke, ingénieur ML principal chez Digits, partage son expérience de déploiement d’agents IA en production. Il commence par clarifier ce qu’est un agent, soulignant que le terme est souvent galvaudé. Il présente ensuite l’infrastructure nécessaire : modèles de langage, frameworks, outils, observabilité, mémoire, garde-fous et réflexion. Il détaille les leçons apprises : évaluer soigneusement les frameworks open source, convertir les API en schémas JSON pour les outils, utiliser l’observabilité avec OpenTelemetry, distinguer stockage et mémoire, planifier les tâches avec des modèles de haute complexité, et mettre en place des garde-fous avec un LLM comme juge. Il montre des exemples concrets d’agents synchrones et asynchrones, et conclut sur l’importance de l’évaluation et de l’amélioration continue.

124 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’orateur partage des retours d’expérience concrets et des recommandations pratiques, illustrés par des exemples réels. L’argumentation est solide, appuyée sur des faits observés et des comparaisons entre options. Il reconnaît les limites et les compromis, ce qui renforce la crédibilité.

54 mots

Adéquation titre / contenu

Le titre est fidèle au contenu : l'orateur partage des leçons concrètes et des vérités difficiles sur l'implémentation d'agents en production.

Qualité & fiabilité

8/10

Retour d'expérience concret d'un ingénieur senior, avec des exemples précis et des recommandations pratiques. Les propos sont nuancés et reconnaissent les limites des solutions. La fiabilité est bonne, mais repose sur une expérience unique et des opinions personnelles.

Moments clés

Sources citées

  • MLOps World — Conférence où la présentation a été enregistrée.

Sources concordantes

  • Generative AI Design Patterns — Livre co-écrit par l'orateur, mentionné comme source de bonnes pratiques.

Apport & nouveautés

L’apport principal est le partage d’expérience concret sur le déploiement d’agents en production, avec des leçons pratiques sur l’infrastructure, l’observabilité, la mémoire et les garde-fous. L’orateur insiste sur la distinction entre stockage et mémoire, et sur l’importance de la planification des tâches.

Pour aller plus loin :

  • Agentic AI — Concepts généraux sur les agents autonomes.
  • OpenTelemetry — Standard pour l’observabilité, mentionné dans la vidéo.
  • LangChain — Framework pour agents, discuté dans la vidéo.
  • Guardrails AI — Framework pour garde-fous, mentionné dans la vidéo.

84 mots

Profil radar

Le profil radar montre des scores élevés en quantité et qualité d'information, ainsi qu'en fiabilité, avec un niveau technique modéré. Cela indique une présentation dense et fiable, mais accessible à un public technique.

Fiabilité 8/10