[M2L 2025] 3.4 AI Safety & Ethics in Practice - Julia Haas

[M2L 2025] 3.4 AI Safety & Ethics in Practice - Julia Haas

par Julia Haas

Sciences humaines, sociales & pensée IA & Société UBNumérique et technologies de l’information : thèmes générauxUBJTechnologies numériques et de l’information : aspects sociaux et éthiques
🎙 Julia Haas 👥 3K 📅 12 novembre 2025 ⏱ 48 min 👁 55 📄 revue d'actualité 🧭 2026-08-15
Disponible en : Français (actuel) English

Mots-clés

éthiquetrolley problemalignementmodèle de langageOpenAI

Résumé

Cette intervention de Julia Haas, chercheuse à DeepMind, lors de l’école d’été M2L 2025, aborde les défis éthiques posés par les grands modèles de langage (LLM) à travers le prisme des ’trolley problems’ modernes. Elle commence par expliquer son parcours de recherche, passant de l’étude de la cognition morale humaine à l’analyse des capacités normatives des IA. Elle présente ensuite plusieurs exemples concrets de questions pièges posées aux LLM, comme comparer l’impact négatif d’Elon Musk et d’Hitler, ou demander s’il est acceptable de mégenrer Caitlyn Jenner pour éviter une apocalypse nucléaire. Elle souligne que ces requêtes sont souvent de mauvaise foi et conçues pour faire échouer les modèles. Elle analyse comment OpenAI, à travers son Model Spec, tente de résoudre ces dilemmes en hiérarchisant des principes comme l’utilité, la minimisation des dommages et le respect de la chaîne de commande. Elle montre que cette approche aboutit à des réponses parfois contre-intuitives, comme répondre ‘oui’ à la question sur Caitlyn Jenner. Enfin, elle propose un exercice interactif aux participants : concevoir leurs propres principes éthiques pour guider les réponses des LLM face à ces cas limites. La session se conclut par une discussion sur les compromis nécessaires entre différents principes et la difficulté de définir des règles universelles.

207 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur de cette intervention réside dans son approche pratique et ancrée dans des cas réels, illustrant concrètement les dilemmes éthiques auxquels sont confrontés les développeurs de LLM. L’argumentation est solide, s’appuyant sur des exemples précis et des références à des documents officiels comme le Model Spec d’OpenAI. L’oratrice adopte une posture critique mais constructive, reconnaissant la complexité du problème et les limites des solutions actuelles. Elle encourage la réflexion et la discussion, ce qui renforce la crédibilité de son propos. Cependant, l’argumentation repose en grande partie sur des cas anecdotiques et des opinions personnelles, sans étude systématique ou données quantitatives, ce qui limite la portée scientifique de la présentation.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est correcte : l’oratrice cite explicitement le Model Spec d’OpenAI et fait référence à des concepts philosophiques classiques (trolley problems, conséquentialisme). Elle ne prétend pas présenter des résultats de recherche originaux, mais plutôt une analyse de cas pratiques. La qualité des sources est bonne, bien que limitée à un exemple de laboratoire (OpenAI). L’adéquation entre le titre et le contenu est bonne : la vidéo traite bien de la sécurité et de l’éthique de l’IA en pratique. Aucun commentaire n’est fourni, donc aucune analyse des tendances du public n’est possible.

218 mots

Adéquation titre / contenu

Le titre annonce une session sur la sécurité et l'éthique de l'IA en pratique, ce que la vidéo couvre effectivement à travers l'étude de cas concrets de 'trolley problems' et la discussion des principes éthiques des grands laboratoires.

Qualité & fiabilité

7/10

Exposé d'une chercheuse de DeepMind, s'appuyant sur des exemples réels et des références explicites (OpenAI Model Spec). La méthode est pédagogique et interactive, mais repose sur des cas anecdotiques et des opinions personnelles plutôt que sur des études systématiques.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • OpenAI Model Spec — Référence aux principes éthiques d'OpenAI pour guider le comportement des modèles.

Sources concordantes

Apport & nouveautés

L’apport original de cette vidéo est de mettre en lumière les défis pratiques de l’éthique de l’IA à travers des cas concrets de ’trolley problems’ modernes, souvent négligés dans la littérature académique. Elle propose une approche pédagogique interactive, incitant les participants à réfléchir à la conception de principes éthiques pour les LLM. La discussion sur la hiérarchie des principes et la chaîne de commande, illustrée par le Model Spec d’OpenAI, offre un aperçu des compromis réels auxquels sont confrontés les développeurs.

Pour aller plus loin :

112 mots

Profil radar

Le profil radar montre une bonne qualité d'information et une fiabilité correcte, mais un niveau technique modéré, reflétant une présentation accessible plutôt que très technique. La quantité d'information est satisfaisante, mais l'accent est mis sur la discussion plutôt que sur des données chiffrées.

Fiabilité 7/10