Hacker les GPTs sur ChatGPT est TROP facile — Voici comment
Mots-clés
Résumé
156 mots
Évaluation critique
Valeur des informations & solidité de l’argumentation
La valeur principale de cette vidéo réside dans sa démonstration pratique et reproductible des failles de sécurité des GPTs. L’auteur montre concrètement, étape par étape, comment extraire des informations sensibles, ce qui est très instructif pour les créateurs de GPTs. L’argumentation est solide car elle s’appuie sur des exemples réels et sur un document académique (arXiv 2302.05733) qui référence les techniques d’injection de prompt. Cependant, l’auteur exagère quelque peu en affirmant qu’il est possible de hacker n’importe quel GPT, alors qu’il admet lui-même que certaines protections peuvent résister. La démonstration est convaincante, mais la généralisation est abusive. La vidéo a une valeur pédagogique certaine, mais elle manque de nuances sur les limites des techniques présentées.
Rigueur scientifique, qualité des sources, adéquation du titre
La rigueur scientifique est moyenne. L’auteur cite un article académique (arXiv 2302.05733) qui est une référence reconnue sur les attaques par injection de prompt, ce qui apporte une certaine crédibilité. Cependant, la vidéo ne fournit pas de références supplémentaires et s’appuie principalement sur des démonstrations empiriques. Le titre est accrocheur et correspond au contenu, mais il est un peu racoleur. L’adéquation titre/contenu est bonne, mais la note globale n’est pas affectée de manière significative. Les sources citées sont limitées, mais l’article académique est pertinent. La vidéo aurait gagné à citer d’autres travaux sur la sécurité des LLM.
227 mots
Adéquation titre / contenu
Le titre est accrocheur et correspond au contenu : la vidéo montre effectivement comment extraire les instructions et fichiers de GPTs via des injections de prompt.
Qualité & fiabilité
6/10
La vidéo est un tutoriel pratique qui démontre des techniques d'injection de prompt sur les GPTs. Elle s'appuie sur une démonstration concrète et renvoie à un article académique (arXiv 2302.05733) pour étayer le propos. Cependant, elle ne fournit pas de preuves formelles de l'efficacité des techniques sur tous les GPTs, et certaines affirmations sont exagérées ("hacker N'IMPORTE QUEL GPT"). La fiabilité est moyenne, car les méthodes sont réelles mais la généralisation est abusive.
Chapitres
Sources citées
- Not All Languages Are Created Equal in LLMs: Improving Multilingual Capability — Étude académique sur les attaques par injection de prompt, citée comme référence pour les techniques de hacking.
- Formation Automatiser ChatGPT — Lien vers la formation payante de l'auteur, mentionnée en introduction.
- Ressources IA gratuites — Lien vers la base de ressources gratuites de l'auteur, mentionnée pour accéder à ses GPTs.
- Tuto Custom Instructions — Vidéo recommandée pour approfondir les instructions personnalisées.
- J'ai créé un Chatbot avec GPT-4 Turbo — Vidéo recommandée pour créer un chatbot avec GPT-4 Turbo.
- Tuto complet pour utiliser ChatGPT — Vidéo recommandée pour apprendre à utiliser ChatGPT.
- Tuto ChatGPT Vision (GPT-4V) — Vidéo recommandée pour utiliser la vision de ChatGPT.
- Tuto complet créer des GPTs — Vidéo recommandée pour apprendre à créer des GPTs.
- Tuto Dall-E 3 sur ChatGPT — Vidéo recommandée pour utiliser Dall-E 3.
- Les nouveautés ChatGPT et GPT OpenAI DevDay — Vidéo recommandée pour les nouveautés de ChatGPT.
- Je teste vos GPTs sur ChatGPT — Vidéo recommandée pour tester des GPTs.
- J'ai créé 50 GPTs sur ChatGPT — Vidéo recommandée pour créer de nombreux GPTs.
Sources concordantes
- Not All Languages Are Created Equal in LLMs: Improving Multilingual Capability — L'article académique cité dans la vidéo confirme l'existence de techniques d'injection de prompt.
Apport & nouveautés
Cette vidéo apporte une contribution pratique en montrant des techniques concrètes d’extraction d’informations depuis les GPTs, ce qui est peu documenté dans les médias grand public. Elle vulgarise des concepts de sécurité des LLM et propose une méthode de protection simple. L’originalité réside dans la démonstration en direct et la reproductibilité des attaques.
Pour aller plus loin :
- Prompt injection attack — Article Wikipédia sur l’injection de prompt, concept central de la vidéo.
- Not All Languages Are Created Equal in LLMs: Improving Multilingual Capability — Étude académique citée, qui explore les vulnérabilités des LLM.
- OWASP Top 10 for Large Language Model Applications — Liste des risques de sécurité pour les applications LLM, incluant l’injection de prompt.
116 mots
Profil radar
Le profil radar montre des scores modérés, avec une quantité d'information correcte mais une fiabilité globale limitée. La vidéo est utile pour comprendre les risques, mais elle manque de rigueur scientifique et de sources variées.