AIR Seminar with Fuxin Li | Hariri Institute | Boston University

AIR Seminar with Fuxin Li | Hariri Institute | Boston University

Séminaire AIR avec Fuxin Li | Institut Hariri | Université de Boston

par Fuxin Li · Voir la chaîne sur PSI

Sciences formelles & physiques IA — Actualité & Applications UYInformatiqueUYQIntelligence artificielle (IA)
🎙 Fuxin Li 👥 1K 📅 13 octobre 2026 ⏱ 60 min 👁 0 📄 étude originale 🧭 2026-10-13
Disponible en : Français (actuel) English

Mots-clés

heatmapsintegrated gradientscontrefactuelsstructural attention graphsdeep learning

Résumé

Fuxin Li présente une série de travaux sur l’explicabilité des réseaux de neurones en vision par ordinateur. Il commence par l’échec de l’interprétation directe des neurones, montrant que chaque dimension code des concepts multiples qui n’apparaissent jamais ensemble. Il introduit ensuite la métrique de suppression/insertion pour évaluer la qualité des cartes de saillance. Pour éviter les minima locaux dans l’optimisation des masques, il propose IGOS et iGOS++, qui utilisent les gradients intégrés et des contraintes de lissage pour générer des heatmaps fiables, restant dans la distribution des données. Ces méthodes révèlent des comportements surprenants des réseaux, comme une dépendance aux caractères imprimés dans des radiographies COVID-19. Il aborde ensuite les graphes d’attention structurés (SAG) qui, par recherche en faisceau, identifient plusieurs chemins de décision et fournissent des explications contre-factuelles plus utiles que les heatmaps classiques. Enfin, il explore les explications contre-factuelles dans l’espace latent des VAE et GAN, montrant comment transformer une image pour changer sa prédiction, et discute des différences de comportement entre CNNs et transformers liées aux couches de normalisation. Le tout est illustré par des expériences et des métriques, avec des discussions sur l’importance de rester dans la distribution et de valider les explications.

197 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : le conférencier présente des méthodes originales et publiées dans des conférences majeures, avec des évaluations quantitatives via des métriques bien définies (suppression/insertion). L’argumentation est solide, appuyée par des exemples concrets (images médicales, horloges) et des comparaisons avec des méthodes antérieures. Il critique lucidement les limites des approches naïves et justifie chaque choix méthodologique (flou gaussien, intégration de gradients). La présentation montre une évolution cohérente de la recherche, de l’échec initial à des solutions plus sophistiquées, ce qui renforce la crédibilité.

Rigueur scientifique, qualité des sources, adéquation du titre

Le séminaire respecte les standards académiques : les travaux cités sont identifiés (DARPA XAI, Kate Saenko, Fong & Vedaldi), et les méthodes sont décrites avec précision. La qualité des sources est bonne, bien que la vidéo ne fournisse pas de références bibliographiques explicites. L’adéquation titre/contenu est bonne, le titre étant impersonnel mais correct. Aucune source discordante n’est mentionnée.

160 mots

Adéquation titre / contenu

Le titre indique correctement la nature du contenu (séminaire AIR) et le nom du conférencier, ce qui correspond au contenu de la vidéo.

Qualité & fiabilité

8/10

L'orateur est un professeur reconnu (NSF CAREER, prix CVPR) et les travaux présentés ont été validés par des publications à comité de lecture. Les méthodes sont détaillées et évaluées par des métriques objectives, mais la vidéo est un séminaire enregistré sans vérification indépendante.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • Hariri Institute Events — Page des événements de l'Hariri Institute, mentionnée dans la description comme ressource associée au séminaire.
  • I-GOS et iGOS++ — Papiers présentés dans le séminaire, décrivant la méthode de heatmaps par gradients intégrés.
  • Fong & Vedaldi (ICCV 2017) — Travaux sur l'optimisation de masques, cité comme approche antérieure ne fonctionnant pas bien.
  • DARPA XAI — Programme mentionné comme origine de la recherche en explicabilité.

Apport & nouveautés

Le principal apport est la démonstration que des heatmaps fiables peuvent être générées en optimisant explicitement les métriques de suppression/insertion grâce à des gradients intégrés et des contraintes de régularisation, tout en restant dans la distribution. Cela permet de révéler des biais inattendus dans les classifieurs. La proposition des structures d’attention graph (SAG) offre une explication plus riche que les heatmaps simples, en identifiant plusieurs régions disjointes qui soutiennent la décision. Enfin, l’utilisation de contre-factuels génératifs dans l’espace latent ouvre la voie à des explications visuelles transformant réellement l’image. Ces contributions sont évaluées par des études utilisateur et des métriques objectives.

Pour aller plus loin :

  • Integrated gradients — Méthode d’attribution de gradients intégrés utilisée dans IGOS, pertinente pour comprendre l’optimisation.
  • Explainable artificial intelligence — Cadre général de l’explicabilité, contexte de la recherche présentée.
  • Counterfactual explanations — Notion utilisée pour les explications visuelles transformant une image.
  • Variational autoencoder — Modèle utilisé pour générer des contre-factuels dans l’espace latent.

158 mots

Profil radar

Le profil radar montre une très bonne qualité d'information et une fiabilité élevée, avec un niveau technique très élevé, mais une quantité d'information légèrement inférieure en raison de la durée limitée et d'un contenu concentré. La cohérence entre les scores reflète un traitement rigoureux et spécialisé.

Fiabilité 8/10