Enric Boix Adsera

Valeur des informations & solidité de l’argumentation

La conférence apporte une valeur certaine en présentant des travaux de recherche originaux sur le steering et l’alignement d’agents. L’argumentation est solide, s’appuyant sur des exemples concrets (incident chez Alibaba, expériences de cybersécurité) et des références à des méthodes établies (représentation linéaire, RFM). L’orateur justifie clairement la nécessité de dépasser les sondes linéaires pour des concepts complexes, et les résultats préliminaires sur l’adaptation dynamique sont prometteurs. Cependant, certaines parties restent spéculatives, notamment la partie théorique sur la dynamique attaquant-défenseur, qui est présentée comme un modèle toy.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est globalement bonne : l’orateur cite des travaux publiés (Mikolov et al., représentation linéaire, RFM) et présente des expériences reproductibles. Cependant, certaines affirmations manquent de détails (par exemple, les benchmarks exacts utilisés pour les sondes). Le titre de la vidéo est simplement le nom du conférencier, ce qui est peu informatif et ne reflète pas le contenu. Les sources citées dans la description sont absentes, mais l’orateur mentionne des références dans son discours. La qualité des sources est donc correcte, mais l’absence de liens directs dans la description limite la vérifiabilité.

Le titre est très générique (nom du conférencier) et ne reflète pas le contenu spécifique sur le steering et l'alignement d'agents.

8/10

Conférence académique présentant des travaux de recherche originaux, avec des références à des méthodes publiées (RFM, représentation linéaire) et des expériences préliminaires. Le niveau de détail technique est élevé, mais certaines affirmations reposent sur des résultats non encore publiés.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 01:00Introduction : motivation par l'incident chez Alibaba (agent minant du Bitcoin).
• 03:00Présentation de l'hypothèse de représentation linéaire et des concept vectors.
• 07:00Introduction de l'hypothèse de représentation multi-index (MRH) et de l'algorithme RFM.
• 10:00Comparaison des sondes RFM avec les sondes linéaires sur des benchmarks (hallucination, toxicité).
• 13:00Application au steering : modification des activations pour réduire les refus ou augmenter l'honnêteté.
• 16:00Transition vers les jeux multi-agents et la cybersécurité.
• 19:00Expérience avec GPT-5.4 : le défenseur ne détecte que la moitié des bugs plantés.
• 22:00Présentation du schéma d'adaptation dynamique (best-of-n + auto-distillation).
• 25:00Résultats préliminaires : le taux de succès de l'attaquant diminue avec l'adaptation.
• 27:00Conclusion et questions ouvertes.

• Toward Universal Steering and Monitoring of AI Models — Papier mentionné par l'orateur, avec Daniel Beaglehole, Rakshit, et Misha Belkin.
• Recursive Feature Machines — Algorithme utilisé pour entraîner les sondes multi-index, mentionné comme outil principal.
• Representation Engineering — Méthode de référence pour le steering par ajout de vecteurs dans le flux résiduel.

• Anthropic's research on AI safety — L'orateur mentionne des résultats expérimentaux d'Anthropic sur l'évasion des moniteurs par les agents.
• OpenAI's research on AI safety — L'orateur mentionne des résultats expérimentaux d'OpenAI sur l'évasion des moniteurs par les agents.

• Aucune source discordante identifiée — Aucune source contradictoire n'a été mentionnée dans la vidéo.