Generative Frictions: A Conversation on AI with Lucy Suchman and Terry Winograd

La conversation offre une perspective historique et critique précieuse sur l’IA, enracinée dans des décennies de recherche et d’engagement. Suchman et Winograd, tous deux lauréats du prix SIGCHI, apportent une profondeur d’analyse rare. Leur discussion sur les limites de l’IA, notamment en matière de compréhension du langage, est particulièrement pertinente à l’ère des grands modèles de langage. Ils rappellent que les problèmes fondamentaux de l’IA ne sont pas seulement techniques mais aussi sociaux et éthiques. L’argumentation est solide, s’appuyant sur des travaux fondateurs comme ‘Plans and Situated Actions’ et ‘Understanding Computers and Cognition’. La modération de Nava Haghighi est experte et facilite un échange riche. Cependant, le format conversationnel peut manquer de structure et certaines affirmations ne sont pas étayées par des preuves directes. La discussion sur le militarisme et le travail est éclairante, mais aurait pu être approfondie. L’adéquation entre le titre et le contenu est bonne, le titre évoquant bien la notion de frictions génératives. Dans l’ensemble, une conversation de haute qualité qui stimule la réflexion critique sur l’IA.

Le titre reflète bien le contenu : une conversation entre deux figures clés sur les frictions génératives dans le domaine de l'IA.

8/10

Discussion entre deux chercheurs émérites reconnus, avec une modératrice experte, abordant des enjeux critiques de l'IA. Les propos sont nuancés, s'appuient sur des décennies de recherche et des références historiques. La fiabilité est élevée, bien que le format conversationnel ne permette pas une vérification exhaustive des affirmations.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction par Nava Haghighi, présentant les intervenants et le contexte.
• 05:00Terry Winograd explique son manque de compréhension technique de l'IA moderne, mais souligne la continuité des enjeux sociaux.
• 10:00Discussion sur la création de CPSR et la résurgence de l'initiative 'Golden Dome'.
• 15:00Lucy Suchman évoque son travail sur les limites de l'IA et la compréhension du langage.
• 20:00Débat sur le livre 'Understanding Computers and Cognition' et la notion de conception ontologique.
• 30:00Réflexions sur l'impact de l'IA sur le travail et l'importance de la conception participative.
• 40:00Discussion sur les implications militaires de l'IA et la notion de 'monde clos'.
• 50:00Échanges sur les frictions génératives et leur rôle dans la recherche.
• 1:00:00Questions du public et réponses des intervenants.
• 1:10:00Conclusion et remerciements.

• Plans and Situated Actions: The Problem of Human-Machine Communication — Ouvrage de Lucy Suchman, cité comme référence clé sur l'action située.
• Understanding Computers and Cognition: A New Foundation for Design — Livre de Terry Winograd et Fernando Flores, discuté dans la conversation.
• Human-Machine Reconfigurations: Plans and Situated Actions, 2nd Edition — Réédition de l'ouvrage de Suchman, mentionnée comme prolongement de ses travaux.

• Suchman, L. (2023). Imaginaries of omniscience: Automating intelligence in the US Department of Defense. Social Studies of Science, 53(5), 761–786. — Article récent de Suchman sur l'automatisation de l'intelligence au sein du département de la Défense, en lien avec ses préoccupations sur le militarisme.
• Winograd, T. (1972). Understanding Natural Language. Cognitive Psychology, 3(1), 1-191. — Travail fondateur de Winograd sur la compréhension du langage naturel, qui a précédé ses critiques ultérieures.

• Critiques de l'IA générative — Certains pourraient contester la vision critique de Suchman et Winograd, arguant que les progrès récents de l'IA générative dépassent les limites qu'ils identifient.