La IA que no sabía decir que no sabía

La conférence de José Hernández-Orallo est une contribution solide à la réflexion sur la fiabilité des IA. L’orateur, reconnu internationalement, apporte une perspective experte et nuancée. Il s’appuie sur des références académiques solides, notamment un article dans Nature, et cite des travaux récents d’OpenAI. Son argumentation est claire et structurée, passant de la problématique des hallucinations à la nécessité d’une IA qui sache dire ‘je ne sais pas’. Il illustre ses propos avec des exemples concrets et accessibles, comme les anagrammes, ce qui rend le contenu compréhensible sans sacrifier la rigueur. Cependant, on peut regretter que certaines affirmations générales, comme la tendance des modèles à dire moins ‘je ne sais pas’, ne soient pas étayées par des données chiffrées précises. De plus, la conférence, bien que riche, reste une introduction au sujet et n’approfondit pas les solutions techniques possibles. L’adéquation entre le titre et le contenu est bonne, le titre reflétant bien le thème central. Enfin, la présence d’une session de questions-réponses permet d’aborder des aspects pratiques, mais elle n’est pas retranscrite ici. Dans l’ensemble, la conférence est de haute qualité, informative et stimulante, mais elle aurait gagné à être plus approfondie sur certains points techniques.

Le titre est pertinent et reflète bien le thème central de la conférence : la capacité des IA à reconnaître leurs limites.

8/10

Conférence par un chercheur reconnu (catedrático, chercheur principal au Leverhulme Centre), avec références à des publications dans Nature et à des travaux académiques. Le contenu est argumenté et s'appuie sur des exemples concrets, mais certaines affirmations générales manquent de nuances.

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

• 02:00Introduction par Miguel et présentation de Senén Barro.
• 05:00Senén Barro présente José Hernández-Orallo et contextualise le thème.
• 10:00Début de la conférence : José Hernández-Orallo introduit le sujet des hallucinations et de l'incapacité à dire 'je ne sais pas'.
• 20:00Discussion sur l'article d'OpenAI expliquant les causes des hallucinations.
• 30:00Exemples concrets d'erreurs de modèles, comme l'anagramme 'mami' au lieu de 'yami'.
• 40:00Analyse de la tendance des modèles à dire moins 'je ne sais pas' au fil du temps.
• 50:00Discussion sur la différence entre fiabilité et confiance.
• 1:00:00Propositions pour améliorer la fiabilité des IA et leur capacité à exprimer l'incertitude.
• 1:10:00Session de questions-réponses avec le public.

• Fundación Ramón Areces - Actividad: La IA que no sabía decir que no sabía — Page de l'événement où se déroule la conférence, avec informations sur l'orateur et le sujet.

• Article de recherche sur les hallucinations (OpenAI) — L'orateur mentionne un article récent d'OpenAI sur les causes des hallucinations, mais l'URL n'est pas fournie dans la vidéo.

• Aucune source discordante mentionnée — Aucune source contradictoire n'est citée dans la vidéo.