NCM Is this the End of LLMs?

Item: NCM Is this the End of LLMs?
Rating: 5
Author: PostSingularity Institute

NCM Est-ce la fin des LLM ?

Historique des titres

NCM Is this the End of LLMs? — observé le 20261031-2304 UTC (YouTube)

par Kai · Voir la chaîne sur PSI

Sciences formelles & physiques IA — Modèles & Recherche UYQIntelligence artificielle (IA)UYQFIntelligence artificielle générative

🎙 Kai 👥 65K 📅 19 octobre 2026 ⏱ 27 min 👁 370K 📄 vulgarisation 🧭 2026-10-31

Disponible en : Français (actuel) English

Mots-clés

Next Concept ModelingLLMdiffusion language modelgénération parallèlebande passante mémoire

Résumé

La vidéo examine le Next Concept Modeling (NCM), une architecture de génération de texte développée par Stanford et Together AI. Au lieu de générer un token à la fois, le NCM écrit d’abord un croquis grossier puis affine par niveaux, grâce à un VQ-VAE multi-échelle et à un transformer standard. Cette approche réduit le nombre de lectures des poids du modèle, passant de 1024 lectures à 32 pour une réponse typique, ce qui accélère considérablement la génération sur une seule requête. Cependant, les benchmarks montrent que le NCM ne bat pas systématiquement les modèles autorégressifs : sur la traduction allemand-anglais, il est inférieur, et sur les résumés XSum, il est plus rapide mais 31 fois par rapport à un modèle de diffusion, pas un autorégressif. Le NCM se distingue sur des tâches de raisonnement structuré comme le Sudoku, mais il présente des limitations : sortie de taille fixe, absence de code d’entraînement, et le modèle web-text n’est qu’un fichier TODO de 5 octets. Le verdict est que le NCM ne signifie pas la fin des LLM, mais déplace le goulot d’étranglement de la bande passante mémoire vers le calcul, ce qui pourrait bénéficier aux utilisateurs locaux. La vidéo compare aussi avec DiffusionGemma, une alternative actuelle, et recommande de prêter attention aux spécifications de calcul plutôt qu’à la seule bande passante.

220 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’auteur ne se contente pas de relayer le battage médiatique, il lit le papier source, examine le code et les checkpoints, et recadre les chiffres avec rigueur. Il explique en détail le fonctionnement du NCM, sa différence avec les modèles de diffusion, et les implications pratiques pour l’inférence locale. L’argumentation est solide, basée sur des faits vérifiables (tableaux de benchmarks, calculs de bande passante). Il montre les forces et les faiblesses de manière équilibrée, sans parti pris, et donne un avis nuancé sur l’avenir de cette technologie.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est exemplaire : l’auteur cite systématiquement ses sources (arXiv, GitHub, Hugging Face) et les utilise pour vérifier les affirmations. Il met en garde contre les interprétations abusives des résultats, par exemple en soulignant que le 31x ne concerne qu’un benchmark spécifique contre un modèle de diffusion. L’adéquation titre/contenu est bonne : le titre questionne, la vidéo déconstruit le buzz et apporte des réponses précises. Il n’y a pas de commentaires à analyser, mais le contenu est cohérent avec le titre.

192 mots

Adéquation titre / contenu

Le titre pose une question provocatrice, mais le contenu répond clairement en montrant que le NCM n'est pas la fin des LLM mais une évolution parallèle. L'adéquation est bonne, le titre reflète bien la problématique.

Qualité & fiabilité

9/10

Analyse rigoureuse du papier NCM, lecture du code et des checkpoints, contextualisation précise des performances et des limites. L'auteur distingue clairement les promesses marketing des résultats mesurés, et fournit des calculs concrets.

Chapitres

Sources citées

NCM paper (arXiv:2610.14162) — Papier de recherche principal décrivant l'architecture NCM et ses résultats.
NCM code repository — Code source de l'implémentation NCM, limité à l'évaluation.
Hazy Research blog — Article de blog Stanford annonçant le NCM.
Meta Large Concept Models — Papier sur les Large Concept Models, souvent confondus avec le NCM.
DiffusionGemma model card — Fiche modèle de DiffusionGemma, une alternative actuelle au NCM.

Sources concordantes

DiffusionGemma blog (Google) — Confirme les avantages des modèles de diffusion pour l'inférence à petit batch.
Thread r/LocalLLaMA sur LLaDA 2.1 mini — Discussions sur les avantages des modèles de diffusion en inférence mono-requête.

Références externes

Apport & nouveautés

L’apport original de cette vidéo est de fournir une analyse critique et détaillée du NCM, démontant le battage médiatique tout en reconnaissant les avancées réelles. Elle met en lumière le changement de goulot d’étranglement (bande passante mémoire vers calcul) et son impact potentiel sur l’inférence locale. Elle compare également le NCM avec DiffusionGemma, offrant une perspective pratique.

Pour aller plus loin :

Modèles de diffusion — Concepts connexes sur les modèles de diffusion, utilisés dans le contexte des LLM.
VQ-VAE (Vector Quantised Variational Autoencoder) — La technique de compression multi-échelle employée par NCM.
Architecture Transformer — Le socle commun des LLM et du NCM.

104 mots

Profil radar

Le profil radar indique une très bonne qualité d'information et une excellente fiabilité, avec un niveau technique élevé mais accessible. L'équilibre entre quantité et qualité des informations montre une vidéo dense et bien sourcée, adaptée à un public voulant comprendre les enjeux techniques.

Fiabilité 9/10

💬 Les 30 commentaires analysés sont très positifs, saluant la clarté d'analyse, la précision et la capacité à démystifier le sujet. Plusieurs mentionnent le format unique de la chaîne et la qualité de la vulgarisation.