PROTOTYPE INTERNE · démonstration interne · aucune donnée collectée · extraits « Tech Café » (droits Vendé, pré-accord)
L'École de la Techcomprendre, pas subir

Accueil · Bloc 2 Les limites · T2.1

T2.1MatièreModule 1 sur 3

Hallucinations : pourquoi, et comment s'en protéger

Pourquoi un modèle produit parfois une réponse assurée et fausse — le mécanisme réel, pas la métaphore, et ce qui réduit le risque sans jamais l'annuler.

Statut du contenu : matière pédagogique sourcée, en cours de vérification finale — la leçon rédigée, enrichie des extraits du podcast Tech Café, arrive ensuite.

L'essentiel

  1. Un modèle de langage ne « ment » pas au sens propre : le mensonge suppose une intention de tromper. Un LLM produit, token après token, la continuation statistiquement la plus plausible compte tenu du contexte — sans mécanisme intégré de vérification factuelle de ce qu'il énonce. Le terme « hallucination » désigne le cas où cette continuation plausible est factuellement fausse ou inventée.
  2. [Vérifié 20/07/2026 sur source primaire] Selon une étude d'OpenAI publiée le 04/09/2025 (« Why Language Models Hallucinate », A. Kalai, O. Nachum, S. Vempala, E. Zhang), les hallucinations naissent pour partie des procédures d'évaluation standard elles-mêmes : elles récompensent une réponse assurée — même fausse — plutôt qu'un aveu d'incertitude, un peu comme un examen à choix multiples où deviner rapporte plus que s'abstenir. Source : OpenAI, arXiv:2509.04664.
  3. Toujours selon cette étude, les hallucinations y sont décrites comme des erreurs statistiques d'un type connu (proches d'erreurs de classification binaire entre énoncé valide et invalide), pas comme un phénomène mystérieux propre à l'IA — et la correction proposée porte sur le barème des évaluations (valoriser l'incertitude exprimée), pas seulement sur le modèle. Source : OpenAI, arXiv:2509.04664.
  4. [Vérifié 20/07/2026 sur source primaire] Selon les travaux d'interprétabilité d'Anthropic publiés le 27/03/2025 (« Tracing the thoughts of a large language model »), le comportement par défaut observé en interne est un circuit de refus (« je ne sais pas ») ; un circuit distinct, activé par la reconnaissance d'une entité connue, inhibe ce refus pour permettre une réponse. Une hallucination de type « invention biographique » se produirait quand ce second circuit s'active à tort — le modèle reconnaît un nom sans posséder l'information demandée sur cette personne, et répond quand même. Source : Anthropic.
  5. Le même travail décrit un second mécanisme distinct : face à un calcul qu'il ne peut pas réellement effectuer (ex. le cosinus d'un grand nombre), Claude peut produire une réponse d'apparence assurée sans qu'aucun calcul correspondant ne soit détecté en interne par les outils d'interprétabilité utilisés — un phénomène que les chercheurs qualifient de « bullshitting » au sens philosophique (produire un énoncé sans se soucier de sa vérité, ni pour ni contre). Source : Anthropic, 27/03/2025.
  6. [Vérifié 20/07/2026 sur sources secondaires convergentes] En mai 2023, dans l'affaire Mata v. Avianca (tribunal fédéral du district Sud de New York), des avocats ont soumis un mémoire citant plusieurs décisions de justice inventées par ChatGPT ; interrogé, l'outil avait lui-même « confirmé » l'existence de ces décisions. Le juge P. Kevin Castel a sanctionné les avocats de 5 000 $ pour mauvaise foi (règle 11 de procédure fédérale), après que les décisions citées se sont révélées introuvables. Source : décision de justice (S.D.N.Y., 678 F.Supp.3d 443), reprise par la presse juridique spécialisée (Seyfarth Shaw) et documentée sur Justia.
  7. [Vérifié 20/07/2026 sur sources secondaires convergentes] En février 2024, un tribunal des petites créances de Colombie-Britannique (Civil Resolution Tribunal) a jugé Air Canada responsable d'une information erronée donnée par son chatbot, qui avait annoncé à un passager un remboursement rétroactif « deuil » sous 90 jours — politique qui n'existait pas. Le tribunal a explicitement rejeté l'argument de la compagnie selon lequel le chatbot serait une entité distincte non engageante, et a accordé 812,02 $CAD de dommages. Source : Moffatt v. Air Canada, 2024 BCCRT (décision du 14/02/2024), reprise par Forbes et par une analyse de la UBC Law Review.
  8. Aucune technique documentée à la date de rédaction n'élimine totalement le risque d'hallucination : la génération augmentée par récupération (RAG — fournir au modèle des documents à citer), l'appel d'outils (calculatrice, recherche web), une température de génération plus basse, ou l'entraînement à exprimer une incertitude calibrée réduisent la fréquence du phénomène sans l'annuler — y compris pour un système qui « cite ses sources », qui peut mal résumer un document réel ou lui faire dire ce qu'il ne dit pas.
  9. Faire répéter la même question et comparer les réponses (« self-consistency ») réduit certains types d'erreurs de raisonnement ponctuelles, mais ne protège pas contre une hallucination stable : un modèle peut reproduire la même invention à l'identique à chaque tentative, en particulier sur un nom propre ou une référence peu représentée dans ses données d'entraînement — la cohérence entre plusieurs réponses n'est pas une preuve d'exactitude.
  10. [Vérifié 20/07/2026 sur source primaire] Le taux d'hallucination mesuré n'est pas seulement une question de « modèle plus ou moins bon » : selon le classement indépendant Vectara HHEM (mesure de cohérence factuelle sur des tâches de résumé, plus de 7 700 documents, mis à jour le 11/05/2026), les modèles en mode « raisonnement/thinking » affichent des taux d'hallucination sensiblement plus élevés que leurs équivalents sans raisonnement étendu sur cette tâche précise (ex. openai/o4-mini et o3-pro mesurés entre 18,6 % et 23,3 %, nettement au-dessus des meilleurs modèles du classement, mesurés sous les 3,5 %) — un contre-exemple concret à l'idée qu'un mode de raisonnement plus poussé réduirait mécaniquement les hallucinations. Source : Vectara, classement HHEM (GitHub, palier 3 — mesure indépendante datée).
Deviner rapporte plus que s'abstenir
réponse assuréemême incertaine sur le fondnotée comme une bonne réponsevsréponse : incertain« je ne sais pas »notée comme une mauvaise réponse

Les grilles d'évaluation notent mieux une réponse assurée — même fausse — qu'un aveu d'incertitude : un biais d'entraînement, pas une intention de tromper.

Repères clés

DonnéeValeurDateSource
Étude OpenAI sur l'origine des hallucinations« Why Language Models Hallucinate », arXiv:2509.04664soumis 04/09/2025OpenAI (Kalai, Nachum, Vempala, Zhang)
Recherche interprétabilité Anthropic sur le mécanisme interne« Tracing the thoughts of a large language model »publié 27/03/2025Anthropic
Sanction avocats — jurisprudences inventées par ChatGPT5 000 $ d'amende (règle 11)22/05/2023Tribunal S.D.N.Y., Mata v. Avianca
Chatbot Air Canada jugé responsable d'une politique inventée812,02 $CAD de dommages14/02/2024Civil Resolution Tribunal (Colombie-Britannique)
Classement Vectara HHEM — meilleurs taux d'hallucination (résumé)≈1,8 % à 3,3 % (modèles de tête)mis à jour 11/05/2026Vectara (GitHub hallucination-leaderboard)

Idées reçues

  1. « L'IA ment » — Le mensonge suppose une intention de tromper ; un LLM ne « sait » pas qu'il énonce une contre-vérité, il produit une continuation plausible sans se représenter la vérité de ce qu'il avance (point 1).
  2. « Les hallucinations vont disparaître avec la prochaine version du modèle » — Selon OpenAI (arXiv:2509.04664), leur origine tient pour partie aux incitations des procédures d'évaluation elles-mêmes, pas seulement à une limite technique corrigible version après version ; réduire n'est pas éliminer.
  3. « Un modèle qui affiche des sources ne peut pas halluciner » — Faux : il peut citer un document réel en lui faisant dire autre chose que son contenu, ou mal résumer une source authentique (point 8).
  4. « Halluciner, c'est juste un bug rare » — Sur un calcul qu'il ne peut pas réellement effectuer, Anthropic a documenté un modèle produisant une réponse assurée sans trace de calcul interne correspondant : un mode de fonctionnement observé et reproductible, pas un incident isolé (point 5).
Produire une suite plausible, sans vérifier
contextela continuationla plus probabletexte produitvérification factuelleabsente de ce mécanisme

Le modèle produit la suite de texte la plus probable ; rien, dans ce mécanisme, ne vérifie si elle est vraie.

Questions fréquentes de débutants

Réponds mentalement avant d'ouvrir : c'est l'effort de rappel qui ancre, pas la relecture.

Pourquoi l'IA invente-t-elle une réponse au lieu de dire « je ne sais pas » ?

Parce que les méthodes d'évaluation actuelles valorisent une réponse assurée plus qu'un aveu d'incertitude — un biais d'entraînement documenté par OpenAI, pas une volonté de tromper (point 2).

Peut-on faire confiance à une IA qui donne une citation ou un numéro de dossier précis ?

Pas sans vérification indépendante : le ton assuré n'est pas un signal de fiabilité, comme l'illustre l'affaire Mata v. Avianca (point 6).

Une entreprise qui déploie un chatbot est-elle responsable de ses erreurs ?

Le cas Air Canada tranche par l'affirmative pour une information erronée donnée en son nom sur son propre site (point 7) — une décision de tribunal des petites créances, à ne pas généraliser telle quelle à toute juridiction.

Le fait qu'un modèle « réfléchisse » plus longtemps avant de répondre garantit-il moins d'hallucinations ?

Non démontré comme une garantie — cf. T2.3 sur la fidélité du raisonnement affiché.

Pièges & points de vigilance

  1. Ne jamais transmettre une citation légale, un chiffre ou une référence donnés par une IA sans vérification humaine indépendante sur une source primaire — les deux affaires citées (points 6-7) impliquaient des professionnels qui ne l'ont pas fait.
  2. Le ton confiant d'une réponse n'est pas corrélé à son exactitude : le mécanisme décrit par Anthropic (point 4) montre qu'un modèle peut être tout aussi assuré en confabulant qu'en répondant juste.
  3. RAG, citations et appel d'outils réduisent le risque, ils ne le suppriment pas (point 8) — présenter une de ces techniques comme une « solution » définitive serait inexact.
  4. Faire reformuler ou répéter une question plusieurs fois ne suffit pas à valider une réponse à elle seule : une hallucination stable resurgit identique à chaque tentative (point 9) — la cohérence n'équivaut pas à l'exactitude.
  5. Ne pas présumer qu'un mode « raisonnement étendu » réduit automatiquement les hallucinations : sur la tâche de résumé mesurée par Vectara HHEM, c'est l'inverse qui est observé pour plusieurs modèles (point 10) — vérifier sur le classement à jour plutôt que de supposer.
Réduire le risque, jamais à zéro
affirmations à risquetechniques deréductionun risque résiduel

RAG, outils, relecture humaine réduisent le risque d'hallucination — mais aucune de ces techniques, seule ou combinée, ne l'annule complètement.

Sources