Ciberseguridad: cuidado con lo que le dices a la IA

Ciberseguridad: cuidado con lo que le dices a la IA

par Gadea Lucas Pérez

Sciences appliquées & ingénierie Informatique & Cybersécurité UInformatique et technologies de l’informationURSécurité informatique
🎙 Gadea Lucas Pérez 👥 214K 📅 10 octobre 2025 ⏱ 68 min 👁 963 📄 vulgarisation 🧭 2026-08-06
Disponible en : Français (actuel) English

Mots-clés

cybersécuritéIA générativeChatGPTvie privéephishingalucinationprompt injection

Résumé

La conférencière Gadea Lucas Pérez, dans le cadre d’une session de vulgarisation scientifique organisée par l’Université de Burgos, aborde les risques de cybersécurité liés à l’utilisation quotidienne des IA génératives comme ChatGPT. Elle commence par rappeler le fonctionnement des grands modèles de langage (LLM), qui prédisent des textes probables sans garantie de véracité. Elle identifie ensuite quatre risques principaux : la violation de la vie privée, les hallucinations, le phishing et l’injection de prompt. Pour chaque risque, elle fournit des exemples concrets, comme la fuite de conversations ChatGPT indexées par Google en août 2025 ou l’incident Samsung en 2023. Elle insiste sur l’importance de ne jamais partager d’informations sensibles avec ces outils, de vérifier les réponses générées et de reconnaître les signes d’une tentative de phishing. La conférence inclut également des activités interactives, notamment un jeu de prompt injection, pour illustrer la manipulation des modèles. Elle conclut en proposant des bonnes pratiques : anonymiser les données, utiliser l’IA comme point de départ, et rester vigilant face aux messages personnalisés générés par IA.

172 mots

Évaluation critique

La conférence de Gadea Lucas Pérez constitue une introduction solide et accessible aux risques de cybersécurité associés aux IA génératives. La structure est claire : après une explication du fonctionnement des LLM, elle décline quatre risques majeurs (vie privée, hallucinations, phishing, prompt injection), chacun illustré par des exemples concrets et des recommandations pratiques. La valeur pédagogique est indéniable, notamment grâce aux activités interactives proposées au public, qui permettent de visualiser concrètement les vulnérabilités évoquées.

Sur le plan de la rigueur scientifique, l’exposé s’appuie sur des cas réels documentés, comme la fuite de conversations ChatGPT en août 2025 rapportée par le média Confidencial, ou l’incident Samsung de 2023. Ces références ancrent le discours dans des faits vérifiables, même si aucune source primaire n’est citée explicitement dans la vidéo. Certaines affirmations générales, comme l’utilisation des données des utilisateurs gratuits pour le réentraînement des modèles, mériteraient d’être nuancées ou actualisées, car les politiques de confidentialité des fournisseurs évoluent. De même, la distinction entre les versions gratuite et payante de ChatGPT est présentée de manière simplifiée, sans mention des options de désactivation de l’entraînement.

L’argumentation est globalement convaincante, mais elle reste au niveau de la vulgarisation, sans entrer dans les détails techniques des mécanismes de sécurité ou des contre-mesures avancées. La conférencière adopte un ton didactique et préventif, ce qui est adapté à un public non spécialiste, mais limite la profondeur pour un auditeur averti. L’adéquation entre le titre et le contenu est parfaite, et la présence d’activités pratiques renforce l’impact pédagogique.

En résumé, cette conférence est une excellente ressource pour sensibiliser le grand public aux dangers de l’IA générative, mais elle ne constitue pas une analyse technique approfondie. Elle remplit son objectif de prévention et de bonnes pratiques, avec une fiabilité correcte, même si quelques points mériteraient d’être précisés.

296 mots

Adéquation titre / contenu

Le titre est fidèle au contenu : la conférencière met en garde contre les risques de partage d'informations avec les IA génératives et propose des conseils de sécurité.

Qualité & fiabilité

7/10

Exposé clair et structuré, illustré par des cas réels documentés (fuite de conversations ChatGPT en 2025, incident Samsung en 2023). Les explications sont accessibles sans être simplistes, et les recommandations pratiques sont pertinentes. Toutefois, certaines affirmations générales (comme l'utilisation des données dans la version gratuite) mériteraient d'être nuancées ou actualisées, et aucune source primaire n'est citée explicitement dans la vidéo.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • Blog UBUinvestiga — Site de la chaîne UBUinvestiga, mentionné pour plus d'informations sur la divulgation scientifique.
  • Chaîne YouTube UBUinvestiga — Chaîne YouTube de l'Université de Burgos, mentionnée pour s'abonner et suivre d'autres contenus.

Sources concordantes

  • OWASP Top 10 for Large Language Model Applications — Liste des risques de sécurité pour les applications LLM, incluant l'injection de prompt et les fuites de données.
  • Article sur l'incident Samsung (2023) — Reportage de la BBC sur l'interdiction de ChatGPT par Samsung après une fuite de données.

Sources discordantes

  • Politique de confidentialité d'OpenAI

Références externes

Apport & nouveautés

La conférence apporte une synthèse claire et accessible des risques de cybersécurité liés aux IA génératives, avec des exemples récents et des activités interactives. Elle se distingue par sa pédagogie pratique, notamment le jeu de prompt injection, qui permet de comprendre concrètement les vulnérabilités.

Pour aller plus loin :

121 mots

Profil radar

Le profil radar montre une bonne qualité d'information et une fiabilité correcte, mais un niveau technique modéré, adapté à un public non spécialiste. La quantité d'information est satisfaisante, mais sans approfondissement technique.

Fiabilité 7/10

💬 Sur les 0 commentaires analysés, aucune tendance n'est disponible.