Hacking AI Systems: How to (Still) Trick Artificial Intelligence • GOTO 2025
Mots-clés
Résumé
175 mots
Évaluation critique
La conférence de Katharine Jarmul offre une introduction solide et accessible aux attaques adversariales sur les systèmes d’IA. L’approche pédagogique, qui consiste à se mettre dans la peau d’un attaquant, est efficace pour comprendre les motivations et les méthodes. L’utilisation d’exemples concrets, comme les images scrapées dans les jeux de données, rend le sujet tangible. La présentation est bien structurée, avec des sections claires sur les faiblesses potentielles et les stratégies d’exploitation. Cependant, on peut regretter que certaines affirmations ne soient pas étayées par des références précises, bien que l’oratrice mentionne des travaux de recherche et des ressources. La partie sur les embeddings et la théorie du codage est intéressante mais reste superficielle ; elle aurait pu être approfondie pour un public plus technique. La conférence couvre un large éventail de sujets, mais certains aspects, comme les attaques par empoisonnement de données, ne sont qu’effleurés. La qualité des sources est bonne, avec des références à des travaux académiques et des ressources en ligne. L’adéquation entre le titre et le contenu est parfaite. Dans l’ensemble, cette conférence est une excellente introduction à la sécurité des systèmes d’IA, mais elle manque de profondeur pour les experts du domaine.
196 mots
Adéquation titre / contenu
Le titre correspond parfaitement au contenu : la conférence traite des méthodes pour tromper les systèmes d'IA, avec des exemples et des stratégies de protection.
Qualité & fiabilité
8/10
Exposé par une experte reconnue en confidentialité des données, s'appuyant sur des exemples concrets et des références à des travaux de recherche. La présentation est structurée et pédagogique, mais certaines affirmations générales manquent de citations précises.
Chapitres
Sources citées
- GOTO Copenhagen 2025 - Session page — Page officielle de la session avec résumé et téléchargement des slides.
- Katharine Jarmul - Site personnel — Site personnel de l'oratrice, contenant ses publications et travaux.
- Probably Private - Site de l'entreprise — Entreprise de Katharine Jarmul spécialisée dans la confidentialité des données et l'IA.
- Katharine Jarmul - GitHub — Dépôts de code et notebooks mentionnés dans la conférence.
Sources concordantes
- Adversarial Machine Learning - Article de synthèse — Article de référence sur les attaques adversariales et les défenses.
- Practical Data Privacy - Livre de Katharine Jarmul — Ouvrage de l'oratrice traitant de la confidentialité des données, en lien avec le sujet.
Sources discordantes
Références externes
Apport & nouveautés
Cette conférence apporte une perspective pratique sur la sécurité des systèmes d’IA, en insistant sur la nécessité de penser comme un attaquant. Elle met en lumière des vulnérabilités souvent négligées, comme les données d’entraînement contaminées et les espaces d’embedding manipulables. L’originalité réside dans la démonstration que les attaques adversariales sont toujours possibles malgré les avancées en matière de robustesse.
Pour aller plus loin :
- Adversarial machine learning — Article de Wikipédia couvrant les principes et les attaques adversariales.
- Word2vec — Article sur la technique d’embedding qui a révolutionné le traitement du langage naturel.
- Data poisoning — Article sur l’empoisonnement des données d’entraînement, une attaque mentionnée dans la conférence.
108 mots
Profil radar
Le profil radar montre une conférence équilibrée, avec des scores élevés en quantité et qualité d'information, ainsi qu'une bonne fiabilité. Le niveau technique est légèrement inférieur, indiquant une accessibilité pour un public large, mais avec des concepts avancés.