Lunchtime Talk – Atoosa Kasirzadeh 1/23/26

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : l’analyse s’appuie sur une revue de la littérature et des travaux computationnels originaux, offrant une perspective nuancée sur un débat souvent polarisé. L’argumentation est structurée et progressive : elle commence par définir les notions de risque, puis expose la dichotomie existentiel/non-existentiel, pour finalement la déconstruire via le modèle de polycrise. La solidité de l’argumentation repose sur des exemples concrets (taxonomies de risques, déclarations publiques) et sur une critique interne des deux camps. Cependant, certaines affirmations restent spéculatives, notamment sur les mécanismes de la polycrise, et la démonstration computationnelle n’est pas détaillée dans la vidéo.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : l’auteure cite ses propres travaux et des références clés (Bostrom, Yudkowsky), et s’appuie sur des publications académiques. La qualité des sources est correcte, même si certaines références ne sont pas explicitement nommées dans la vidéo. L’adéquation titre/contenu est acceptable : le titre générique ‘Lunchtime Talk’ ne reflète pas la spécificité du sujet, mais le contenu est cohérent avec une conférence académique. Aucun commentaire n’est fourni pour analyser les tendances du public.

Le titre est générique (Lunchtime Talk) mais le contenu correspond à une conférence académique sur la conceptualisation des risques de l'IA.

8/10

Exposé académique par une chercheuse reconnue, s'appuyant sur des travaux publiés et une analyse computationnelle, mais avec une part de positionnement personnel et de critique non systématique.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 02:00Introduction : question de recherche sur la conceptualisation des risques de l'IA.
• 05:00Définition des quatre notions de risque (événement indésirable, cause, probabilité, espérance).
• 10:00Présentation de la dichotomie entre éthique de l'IA et sécurité de l'IA.
• 15:00Taxonomie des risques non-existentiels (biais, désinformation, usages malveillants, etc.).
• 20:00Discussion sur le mouvement AI Safety et la déclaration sur le risque d'extinction.
• 25:00Présentation des hypothèses d'orthogonalité et de convergence instrumentale.
• 30:00Introduction du modèle de polycrise : les risques non-existentiels peuvent générer des risques existentiels.
• 35:00Analyse computationnelle de la littérature pour montrer les chevauchements entre les deux catégories.
• 40:00Implications pour la gouvernance et la régulation de l'IA.
• 45:00Conclusion : plaidoyer pour une approche intégrée des risques.

• Kasirzadeh, 2025 (travail sur les risques de l'IA) — Référence à un travail récent de l'auteure sur la conceptualisation des risques.
• Gyevnar & Kasirzadeh, 2025 (analyse computationnelle) — Référence à un travail conjoint avec son postdoc sur l'analyse computationnelle de la littérature.
• Bostrom, Nick - Superintelligence (2014) — Ouvrage de référence sur les risques existentiels liés à la superintelligence.
• Yudkowsky, Eliezer et Soares, Nate - 'If anyone builds it, everyone dies' (livre récent) — Livre récent défendant la thèse du risque d'extinction.

• Bostrom, Nick - Superintelligence (2014) — Ouvrage de référence sur les risques existentiels, cité dans la vidéo.
• Yudkowsky, Eliezer et Soares, Nate - 'If anyone builds it, everyone dies' — Livre récent défendant la thèse du risque d'extinction, discuté dans la vidéo.

• Critiques de la dichotomie éthique/sécurité (non spécifiées) — L'auteure mentionne des critiques de la dichotomie, mais sans les détailler.