The Algorithm That Nearly Killed Me: When Testing Isn't Enough - Andrew Paul - NDC Oslo 2026

Valeur des informations & solidité de l’argumentation

La valeur principale réside dans le témoignage authentique et détaillé d’un ingénieur confronté à une défaillance d’un algorithme médical. L’argumentation est solide : l’orateur établit un parallèle entre les défauts de test classiques et les risques particuliers des systèmes d’apprentissage, en utilisant des exemples concrets (gestion des cas limites, cross-boundary) et en les généralisant à d’autres domaines comme les paiements bancaires ou les réseaux sociaux. Il démontre que les tests traditionnels, même réussis, ne garantissent pas la sécurité des utilisateurs lorsque le système apprend et s’adapte. La présentation incite à une remise en question des pratiques actuelles, en plaidant pour une évolution vers des tests basés sur le comportement et l’impact, et non sur la couverture. L’argumentation est convaincante grâce à la crédibilité de l’orateur et à la richesse des anecdotes.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est relative : l’orateur s’appuie principalement sur son expérience personnelle et des observations empiriques, sans citer d’études scientifiques ou de références externes. Les seules sources mentionnées sont les sites de la conférence NDC, qui ne sont pas des références académiques. La qualité des sources est donc limitée, mais le contenu est cohérent et s’appuie sur des concepts établis en ingénierie logicielle et en test logiciel. L’adéquation entre le titre et le contenu est parfaite : il annonce un drame personnel lié à un algorithme et aborde précisément les insuffisances des tests. Aucun commentaire public n’a été fourni, donc aucune analyse des tendances du public n’est possible.

Le titre correspond bien au contenu : l'algorithme de la pompe à insuline a failli tuer l'orateur, et le propos se concentre sur les insuffisances des tests.

7/10

Témoignage personnel étayé par une expérience professionnelle de 15 ans dans le génie logiciel, mais reposant sur un seul cas anecdotique sans données externes vérifiées.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction : présentation de l'orateur, son parcours et le contexte de la conférence.
• 05:00Explication du diabète de type 1 et de l'importance du contrôle glycémique (HBA1C).
• 10:00Décision de passer à une pompe à insuline et description du fonctionnement de la pompe et de son algorithme.
• 15:00Mise en place de la pompe, formation, et premiers résultats encourageants.
• 20:00Défaillance de l'algorithme à 72 heures : glycémie dangereusement élevée, urgence médicale et retour aux injections.
• 30:00Analyse des cas limites et de leurs intersections, notamment le problème de faible glycémie et d'obstruction de canule.
• 40:00Critique des tests traditionnels : ils ne traquent pas les vrais problèmes, surtout avec l'IA qui amplifie les biais.
• 50:00Conclusion : appel à changer les pratiques de test, questions clés pour les systèmes décisionnels.

• NDC Conferences — Conférence où la session a été enregistrée, mentionnée dans la description.
• NDC Oslo — Site officiel de la conférence NDC Oslo, lieu de l'enregistrement.

• Test logiciel (Wikipédia) — Source générique corroborant les limites des tests mentionnées par l'orateur.