When AI Discovers the Next Transformer — Robert Lange

Item: When AI Discovers the Next Transformer — Robert Lange
Rating: 4
Author: PostSingularity Institute

Sciences formelles & physiques IA — Modèles & Recherche UYQIntelligence artificielle (IA)UYQMApprentissage par la machine

🎙 Robert Lange 👥 218K 📅 13 mars 2026 ⏱ 78 min 👁 29K 📄 revue d'actualité 🧭 2026-08-15

Disponible en : Français (actuel) English

Mots-clés

Shinka EvolveAlphaEvolvePOETMAP-Elitesco-évolution

Résumé

Dans cet épisode de Machine Learning Street Talk, Robert Lange, chercheur fondateur de Sakana AI, discute avec Tim Scarfe du framework Shinka Evolve, qui combine LLM et algorithmes évolutionnaires pour la recherche de programmes en boucle ouverte. L’épisode commence par une introduction sur le contexte de Sakana AI et l’inspiration d’AlphaEvolve. Lange explique que Shinka Evolve vise à améliorer l’efficacité en échantillonnage par rapport à AlphaEvolve, en introduisant des innovations comme l’utilisation de plusieurs modèles de fondation avec un bandit UCB pour sélectionner le meilleur modèle à chaque étape. La discussion aborde la notion de co-évolution des problèmes et des solutions, s’inspirant de POET et PowerPlay, pour surmonter la limitation des systèmes actuels qui nécessitent un problème fixé. Lange présente des résultats concrets : amélioration de l’état de l’art en circle packing avec moins d’évaluations, deuxième place à un défi AtCoder, évolution de fonctions de perte pour mixture-of-experts, et scaffolds d’agents pour des benchmarks mathématiques. La conversation explore la question de savoir si ces systèmes peuvent réellement sortir des sentiers battus ou s’ils sont parasitaires sur leurs conditions initiales. Lange défend l’argument des stepping stones, affirmant que l’évolution n’a pas besoin d’extrapoler mais de recombiner utilement. Enfin, ils discutent de l’AI Scientist et de son potentiel à automatiser la recherche scientifique, avec une prudence sur les limites actuelles. L’épisode se termine sur des prédictions à long terme sur la transformation de la recherche scientifique.

234 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’épisode présente des résultats récents et concrets de recherche en IA, avec des détails techniques sur l’architecture de Shinka Evolve. L’argumentation est solide, appuyée par des références à des travaux antérieurs (AlphaEvolve, POET, MAP-Elites) et par des exemples précis. Lange répond aux critiques avec des arguments nuancés, reconnaissant les limites tout en défendant l’approche évolutionnaire. La discussion est équilibrée et évite les promesses exagérées.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : les sources sont citées de manière transparente, avec des liens vers les articles arXiv. La qualité des sources est élevée, provenant de chercheurs reconnus. L’adéquation titre/contenu est bonne, le titre reflétant le thème central de la découverte par l’IA. Les commentaires ne sont pas fournis, donc aucune analyse des tendances du public n’est possible.

146 mots

Adéquation titre / contenu

Le titre est accrocheur et reflète bien le thème central : la possibilité que l'IA découvre des architectures majeures. La discussion explore cette perspective.

Qualité & fiabilité

8/10

Discussion experte avec un chercheur fondateur de Sakana AI, s'appuyant sur des publications récentes et des résultats concrets. Les propos sont nuancés et honnêtes sur les limites. La fiabilité est bonne, mais certaines affirmations restent prospectives.

Chapitres

Sources citées

ShinkaEvolve: Towards Open-Ended And Sample-Efficient Program Evolution — Papier principal discuté dans l'épisode.
AlphaEvolve: A Coding Agent for Scientific and Algorithmic Discovery — Travail antérieur qui a inspiré Shinka Evolve.
Paired Open-Ended Trailblazer (POET) — Référence pour la co-évolution de problèmes et solutions.
Illuminating Search Spaces by Mapping Elites (MAP-Elites) — Algorithme de qualité-diversité utilisé dans Shinka Evolve.
PowerPlay: Training an Increasingly General Problem Solver by Continually Searching for the Simplest Still Unsolvable Problem — Inspiration pour l'auto-curriculum.
The AI Scientist v2: Automating the Full Research Pipeline — Discuté dans le contexte de l'automatisation de la recherche.
Automated Capability Discovery via Foundation Model Self-Exploration — Travail connexe sur la génération de tâches.
Automated Design of Agentic Systems (ADAS) — Référence pour la conception automatisée de systèmes.
Discovering Preference Optimization Algorithms with and for Large Language Models (DiscoPOP) — Exemple d'application de l'évolution de programmes.
On the Measure of Intelligence (ARC-AGI) — Benchmark discuté pour l'évaluation de l'intelligence.
Why Greatness Cannot Be Planned — Livre de Kenneth Stanley mentionné pour l'argument des stepping stones.
Darwin Godel Machine: Open-Ended Evolution of Self-Improving Agents — Travail connexe sur l'évolution ouverte.
ALE-Bench: A Benchmark for Long-Horizon Objective-Driven Algorithm Engineering — Benchmark pour l'ingénierie d'algorithmes.

Sources concordantes

AlphaEvolve: A Coding Agent for Scientific and Algorithmic Discovery — Confirme l'approche d'évolution de programmes avec LLM.
Paired Open-Ended Trailblazer (POET) — Soutient l'idée de co-évolution de problèmes et solutions.

Sources discordantes

The AI Scientist v2: Automating the Full Research Pipeline — Bien que discuté, l'épisode reconnaît que l'AI Scientist actuel est plus un copilote qu'un chercheur autonome, ce qui nuance l'enthousiasme.

Références externes

Apport & nouveautés

L’épisode apporte un éclairage original sur l’utilisation des LLM en combinaison avec des algorithmes évolutionnaires pour la découverte scientifique. L’accent mis sur la co-évolution des problèmes et des solutions est une perspective novatrice, s’appuyant sur des concepts comme POET et PowerPlay. La discussion sur les limites actuelles et les pistes futures est précieuse pour les chercheurs.

Pour aller plus loin :

Open-endedness: The last grand challenge you’ve never heard of — Article de Kenneth Stanley sur l’open-endedness.
Quality-Diversity Optimization: A review of the state-of-the-art — Revue sur les algorithmes de qualité-diversité.
The Surprising Creativity of Digital Evolution — Article sur la créativité dans l’évolution numérique.

105 mots

Profil radar

Le profil radar montre une bonne qualité d'information et une fiabilité élevée, avec un niveau technique modéré. La quantité d'information est substantielle, mais la discussion reste accessible. La fiabilité globale est renforcée par la présence d'un chercheur expert et de références solides.

Fiabilité 8/10