The Black Box: When Finance Can No Longer Explain Itself

Le documentaire offre une introduction solide et accessible au problème de l’explicabilité de l’IA en finance. Il s’appuie sur des références académiques réelles, comme le modèle d’Altman (1968) et l’étude de 2013 en Galice, ce qui lui confère une certaine crédibilité. La distinction entre modèles boîte blanche et boîte noire est bien expliquée, et le compromis précision-interprétabilité est présenté de manière claire. Cependant, on peut regretter un manque de profondeur sur certains points : l’étude de 2013 n’est pas détaillée (méthodologie, données, limites), et le documentaire ne mentionne pas les critiques de l’IA explicable (XAI), comme le fait que les explications post-hoc peuvent être infidèles. De plus, la narration adopte un ton parfois dramatique, ce qui peut nuire à la rigueur scientifique. La partie sur la régulation est bien documentée, mais elle reste générale et ne discute pas des défis pratiques de mise en œuvre de l’AI Act. Enfin, le documentaire ne mentionne pas les débats sur la responsabilité juridique en cas d’erreur d’un modèle. Globalement, le contenu est fiable mais mériterait d’être complété par des nuances et des contre-arguments.

Le titre est pertinent et reflète bien le contenu, qui explore le problème de l'opacité des modèles financiers.

7/10

Le documentaire s'appuie sur des études académiques réelles (Altman 1968, étude de 2013 en Galice, FSB 2017, AI Act 2024) et présente des concepts clés (biais d'interprétabilité, XAI) avec une rigueur correcte. Cependant, certaines affirmations manquent de précision (ex: '90% de précision' sans détail de l'étude) et la narration est parfois simplifiée.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 01:00Introduction : le paradoxe de la prédiction de faillite sans explication.
• 03:00Présentation de l'étude de 2013 en Galice : deux modèles, régression logistique et réseau de neurones.
• 07:00Explication du compromis précision-interprétabilité et de la notion de boîte noire.
• 13:00Applications dans le trading haute fréquence : qui est responsable des transactions ?
• 18:00Le scoring de crédit : décisions automatisées sans explication pour les clients.
• 23:00Gestion des risques et détection de fraude : les conséquences d'alertes non expliquées.
• 28:00Le rapport du FSB de 2017 et l'AI Act européen de 2024 : régulation en retard.
• 33:00Conclusion : la question politique de l'ouverture de la boîte noire.

• Financial Stability Board - Artificial Intelligence and Machine Learning in Financial Services (2017) — Rapport cité dans le documentaire comme une alerte précoce sur les risques d'opacité des modèles IA en finance.
• Règlement (UE) 2024/1689 (AI Act) — Législation européenne citée comme le premier cadre juridique complet pour l'IA, classant les systèmes financiers comme à haut risque.

• Financial Stability Board - Artificial Intelligence and Machine Learning in Financial Services (2017) — Le rapport du FSB souligne les risques pour la stabilité financière liés à l'opacité des modèles, en accord avec le documentaire.

• Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead.