(S06) (MENACES) L’IA devient un vecteur d’attaque : comment amorcer la riposte ?

Valeur des informations & solidité de l’argumentation

La valeur des informations est élevée car elle fournit des données chiffrées récentes (1,6M modèles, 47%, 100k applications) et des exemples concrets de menaces réelles, ce qui rend le sujet tangible. L’argumentation est structurée : elle part du constat de l’essor de l’IA, expose les risques, puis propose une stratégie en cinq piliers. La logique est claire et convaincante, même si elle reste à un niveau stratégique sans entrer dans les détails techniques de mise en œuvre. La présentation s’appuie sur des références (Stanford, OASI) mais sans fournir de sources primaires détaillées, ce qui limite la vérifiabilité.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est correcte : l’oratrice cite des études (Stanford) et des initiatives (OASI) mais sans donner de références précises (URLs, titres). Les sources mentionnées dans la description sont principalement les liens vers le Forum INCYBER Canada, qui ne sont pas des sources scientifiques. Le titre est en adéquation avec le contenu, qui traite bien des menaces et de la riposte. La qualité des sources est donc moyenne, mais l’expertise de l’intervenante est crédible.

Le titre correspond bien au contenu : il annonce les menaces liées à l'IA et propose une stratégie de riposte, ce qui est exactement ce que la vidéo traite.

7/10

La présentation s'appuie sur des exemples concrets et des références à des études (Stanford) et à des initiatives (OASI), mais manque de détails méthodologiques et de sources primaires vérifiables. Le contenu est globalement fiable, avec une expertise professionnelle évidente.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 00:00Introduction : l'IA comme champ de bataille, présentation de l'oratrice et du plan.
• 01:00Chiffres clés : 1,6M modèles open source, 47% des entreprises développent leurs propres applications, 100k applications d'ici 2026.
• 02:00Étude de Stanford : seulement 6% des entreprises ont un cadre de sécurité pour l'IA.
• 03:00Inquiétudes des dirigeants : compromission des modèles, actions imprévues des agents, contrôle par les attaquants.
• 04:00Architecture d'un agent : utilisateur, modèle, mémoire, données, outils.
• 05:00Systèmes multi-agents : agent coordinateur, surface d'attaque exponentielle.
• 06:00Exemples de menaces : exécution de code arbitraire, désinformation (chatbot promettant une réduction), détournement d'intention (voiture à 1 dollar).
• 07:00Exemples de menaces : injection de prompt indirecte (recette de flanc), compromission de privilèges (30 000 utilisateurs), hallucination (écrire poème à l'infini).
• 08:00Exemples de menaces : abus d'outils (lien phishing), comportement trompeur (agent efface une base de données).
• 09:00Rapport OASI : 15 menaces émergentes, classification en manipulation de ce que l'agent sait, fait, et de sa mission.

• Forum INCYBER Canada — Site officiel du forum où la présentation a eu lieu.
• LinkedIn INCYBER Forum Canada — Page LinkedIn du forum, mentionnée dans la description.

• Stanford University AI Index Report 2025 — Étude citée dans la vidéo concernant le faible pourcentage d'entreprises ayant un cadre de sécurité pour l'IA.