Student Misuse of AI-Powered “Undress” Apps

La présentation de Riana Pfefferkorn offre une analyse rigoureuse et nuancée d’un problème émergent lié à l’IA générative. La chercheuse s’appuie sur une méthodologie solide, combinant des entretiens avec un large éventail de parties prenantes (52 répondants) et l’analyse de documents publics, ce qui confère une crédibilité certaine à ses conclusions. Elle aborde les aspects techniques, juridiques et sociaux avec une clarté remarquable, rendant le sujet accessible sans sacrifier la profondeur. L’argumentation est bien structurée : elle commence par définir les concepts clés, puis expose les mécanismes de création, le cadre légal, et enfin les résultats de sa recherche. Elle ne manque pas de souligner les limites de son étude, notamment l’absence d’entretiens avec des responsables scolaires, ce qui témoigne d’une honnêteté intellectuelle appréciable. Les sources citées sont pertinentes et actualisées, incluant des travaux de collègues de Stanford et des rapports d’enquête. L’adéquation entre le titre et le contenu est parfaite. Le seul bémol réside dans le fait que la présentation est une synthèse d’un article plus long, et certains détails méthodologiques pourraient être approfondis. De plus, la question des solutions est traitée de manière assez générale, même si des pistes concrètes sont évoquées. Dans l’ensemble, il s’agit d’une contribution précieuse à la compréhension des risques liés à l’IA générative dans le contexte scolaire, avec des implications politiques importantes. La présence d’une session de questions-réponses enrichit le contenu en permettant d’aborder des points spécifiques soulevés par le public.

Le titre reflète précisément le contenu, centré sur l'utilisation par des élèves d'applications de type 'undress'.

8/10

Recherche fondée sur des entretiens semi-structurés avec 52 parties prenantes, des demandes de documents publics et une analyse législative. L'auteure est policy fellow à Stanford HAI, avec une expertise juridique. Les limites méthodologiques sont mentionnées (absence d'entretiens avec des responsables scolaires).

• 00:00Introduction
• 00:35Lecture
• 51:48Q&A

• Article de recherche sur l'AI CSAM (à paraître) — L'auteure mentionne un article co-écrit avec Shelby Grossman, publié fin mai, mais aucun lien n'est fourni dans la description.
• Policy brief de Stanford HAI sur les deepfake nudes dans les écoles — L'auteure mentionne un policy brief publié par Stanford HAI, disponible en PDF sur leur site, mais aucun lien direct n'est fourni.
• Recherche de David Thiel sur Stable Diffusion 1.5 et le jeu de données LAION-5B — L'auteure fait référence à des travaux de son collègue David Thiel, mais aucun lien n'est fourni.
• Enquête journalistique sur l'écosystème des applications 'nudify' — L'auteure mentionne une enquête à paraître, mais aucun lien n'est fourni.

• Rapport de l'UNICEF sur les risques en ligne pour les enfants — Contexte général sur les risques en ligne pour les enfants, en accord avec les préoccupations soulevées.

• Aucune source discordante identifiée — La présentation ne mentionne pas de sources contradictoires.