Building Trustworthy AI Through Collaboration

Building Trustworthy AI Through Collaboration

par Qing Zeng

Sciences appliquées & ingénierie IA & Société UBNumérique et technologies de l’information : thèmes générauxUBJTechnologies numériques et de l’information : aspects sociaux et éthiques
🎙 Qing Zeng 👥 4K 📅 2 avril 2026 ⏱ 71 min 👁 41 📄 revue d'actualité 🧭 2026-08-16
Disponible en : Français (actuel) English

Mots-clés

IA de confiancecollaborationsantééquitéexplicabilité

Résumé

Cette conférence de Qing Zeng, professeure à l’Université George Washington, présente plusieurs projets collaboratifs visant à développer une IA digne de confiance dans le domaine de la santé. Le premier projet, AI-FOR-U, mené avec une université historiquement noire (HBCU), utilise une approche de conception participative pour identifier les besoins des communautés défavorisées et les obstacles à l’adoption de l’IA. Le deuxième projet, ArtAI, en collaboration avec une association pour personnes handicapées, explore l’utilisation de l’IA générative pour des activités artistiques thérapeutiques. Le troisième projet, MWAS+, est une étude à grande échelle sur les associations médicament-effets indésirables, où la transparence des méthodes est cruciale. La conférencière détaille ensuite trois cas d’utilisation : la prédiction des rendez-vous non honorés, le choix de médicaments de deuxième ligne pour la dépression, et la gestion des maladies chroniques. Elle insiste sur l’importance de l’explicabilité des modèles, et présente une méthode originale, l’impact score, qui permet d’interpréter les prédictions de manière intuitive pour les cliniciens. Elle souligne les défis de l’équité, de la confiance et de l’adoption de ces outils dans les systèmes de santé.

179 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée : la conférencière apporte des exemples concrets de projets collaboratifs en IA pour la santé, avec des données réelles (plus de 5 millions de rendez-vous, 100 000 patients pour la dépression). Elle discute des limites des méthodes d’explicabilité existantes (attention, SHAP, backpropagation) et propose une alternative, l’impact score, qui permet de comparer les modèles et d’interpréter les prédictions au niveau individuel. L’argumentation est solide, appuyée par des résultats chiffrés (AUC de 0,95 pour la prédiction des rendez-vous, réduction de 2 à 3 points de pourcentage des hospitalisations pour la dépression). Elle aborde également les questions éthiques et pratiques de l’adoption de l’IA, comme la surconfiance ou la méfiance, et la nécessité d’une collaboration multidisciplinaire.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est bonne : la conférencière cite des sources fiables (bases de données Cerner, données VA) et mentionne des collaborations avec des institutions reconnues. Cependant, elle ne fournit pas de références bibliographiques explicites dans la présentation, ce qui limite la vérification. Le titre est adéquat : il reflète bien le thème central de la collaboration pour une IA de confiance. Les commentaires ne sont pas fournis, donc aucune analyse des tendances du public n’est possible.

212 mots

Adéquation titre / contenu

Le titre reflète bien le contenu : la conférence met l'accent sur la collaboration comme moyen de développer une IA digne de confiance, illustrée par plusieurs projets concrets.

Qualité & fiabilité

8/10

La conférencière est une chercheuse expérimentée en informatique biomédicale, avec plus de 250 publications. Les projets présentés sont financés par des institutions reconnues (NIH, VA). Les méthodes sont décrites avec transparence, et les limites sont discutées. Cependant, les résultats ne sont pas publiés dans des revues à comité de lecture dans cette présentation, et certaines affirmations manquent de détails chiffrés.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • AIM-AHEAD — Programme de financement mentionné pour les projets AI-FOR-U et ArtAI.
  • Cerner — Base de données de dossiers médicaux électroniques utilisée pour l'étude sur les rendez-vous.
  • Veterans Affairs (VA) — Données utilisées pour l'étude sur la dépression.

Sources concordantes

  • AIM-AHEAD — Programme de financement mentionné pour les projets AI-FOR-U et ArtAI.
  • Cerner — Base de données de dossiers médicaux électroniques utilisée pour l'étude sur les rendez-vous.
  • Veterans Affairs (VA) — Données utilisées pour l'étude sur la dépression.

Apport & nouveautés

L’apport original de cette conférence réside dans la présentation de l’impact score, une méthode d’explicabilité développée par l’équipe de la conférencière, qui permet de fournir des interprétations individuelles et comparables entre modèles, contrairement aux méthodes traditionnelles. Elle illustre également l’importance de la collaboration multidisciplinaire pour développer une IA de confiance, avec des exemples concrets dans des contextes variés.

Pour aller plus loin :

  • Explainable AI — Pour comprendre les enjeux de l’explicabilité en IA.
  • SHAP — Méthode d’explication des modèles, mentionnée dans la conférence.
  • Fairness in Machine Learning — Concepts d’équité et de biais dans les modèles.

97 mots

Profil radar

Le profil radar montre une bonne qualité d'information et une fiabilité globale élevée, avec un niveau technique modéré. La quantité d'information est substantielle, mais la fiabilité pourrait être renforcée par des références bibliographiques explicites.

Fiabilité 8/10