GenAI Grows Up: Building Production-Ready Agents on the JVM

GenAI Grows Up: Building Production-Ready Agents on the JVM

par Rod Johnson

Sciences appliquées & ingénierie IA — Modèles & Recherche UYQIntelligence artificielle (IA)UYQFIntelligence artificielle générative
🎙 Rod Johnson 👥 1.1M 📅 5 novembre 2025 ⏱ 53 min 👁 2K 📄 opinion experte 🧭 2026-08-06
Disponible en : Français (actuel) English

Mots-clés

agentsJVMGenAIproductionorchestration

Résumé

Rod Johnson, créateur du framework Spring, présente à la conférence GOTO Copenhagen 2025 les défis et solutions pour construire des agents d’IA générative fiables en entreprise. Il constate que la plupart des projets d’IA générative en entreprise échouent, avec un taux d’échec souvent cité de 95%. Il identifie plusieurs causes : la non-déterminisme inhérent aux LLM, la fragilité des prompts, les hallucinations, les coûts élevés, et surtout une intégration insuffisante avec les systèmes d’information existants. Il critique l’approche dominante qui consiste à traiter l’IA comme une technologie isolée, souvent en Python, alors que les systèmes critiques des entreprises tournent sur la JVM. Il propose une approche pragmatique : orchestrer des tâches complexes en étapes simples avec des prompts réduits, utiliser des outils de test et de validation, et intégrer l’IA dans les workflows existants. Il présente ensuite Embabel, son nouveau framework open-source pour construire des agents sur la JVM, qui vise à offrir testabilité, maintenabilité et fiabilité. Il insiste sur l’importance de réutiliser les principes du génie logiciel (modélisation du domaine, tests unitaires, typage fort) pour fiabiliser l’IA. Enfin, il appelle à une approche bottom-up, portée par les développeurs, pour dépasser les promesses irréalistes des fournisseurs.

196 mots

Évaluation critique

La présentation de Rod Johnson est une analyse experte et argumentée des difficultés rencontrées lors du déploiement de l’IA générative en entreprise. L’orateur, fort de son expérience dans la création de frameworks Java, apporte un regard pragmatique et critique sur les tendances actuelles. Il identifie avec justesse les principaux obstacles : la non-déterminisme des modèles, la fragilité des prompts, les hallucinations, et surtout le fossé entre les technologies d’IA (souvent Python) et les systèmes d’information existants (souvent Java). Son argumentation est solide, appuyée sur des exemples concrets comme le cas d’Air Canada, et il propose des solutions concrètes telles que l’orchestration en étapes simples et l’utilisation de la JVM pour une intégration native. Cependant, on peut regretter l’absence de données chiffrées précises sur les taux d’échec ou les coûts, et la présentation de son framework Embabel peut être perçue comme une promotion commerciale, même si elle reste mesurée. La qualité des sources est correcte, mais l’orateur ne cite pas d’études académiques, s’appuyant principalement sur son expérience et des anecdotes. L’adéquation entre le titre et le contenu est bonne, le titre reflétant bien la thématique. En résumé, cette intervention offre une vision éclairée et utile pour les développeurs et architectes souhaitant intégrer l’IA générative dans des environnements de production, mais elle manque de rigueur scientifique dans la présentation des preuves.

219 mots

Adéquation titre / contenu

Le titre reflète bien le contenu : la présentation traite de la maturation de l'IA générative pour des agents de production sur la JVM.

Qualité & fiabilité

8/10

Exposé d'un expert reconnu (créateur de Spring) avec une argumentation structurée et des exemples concrets, mais sans données chiffrées détaillées ni revue systématique de la littérature.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

Sources concordantes

Sources discordantes

  • Étude MIT sur le taux d'échec des projets IA — L'orateur mentionne une étude du MIT rapportant un taux d'échec de 95%, mais il la juge trop élevée. Aucune source précise n'est fournie.

Apport & nouveautés

Cette présentation apporte une perspective pragmatique et expérimentée sur le déploiement de l’IA générative en entreprise, en insistant sur l’importance de l’intégration avec les systèmes existants et sur les limites des approches centrées sur le prompt. Elle propose une méthodologie concrète (orchestration, tests, typage) et présente un framework open-source (Embabel) pour faciliter la construction d’agents fiables sur la JVM.

Pour aller plus loin :

  • Spring AI — Framework officiel pour intégrer l’IA dans les applications Spring.
  • Model Context Protocol (MCP) — Standard ouvert pour connecter les LLM aux outils et données.
  • LangChain4j — Bibliothèque Java pour les applications LLM.
  • Testcontainers — Outil pour tester les intégrations avec des conteneurs Docker.

110 mots

Profil radar

Le profil radar montre une bonne maîtrise du sujet avec des scores élevés en qualité et fiabilité, mais un niveau technique modéré, ce qui reflète une présentation accessible tout en étant experte.

Fiabilité 8/10