Hallucinations de l’IA : pourquoi elles arrivent et comment vérifier une réponse
Intelligence artificielle Informations vérifiées le Dimitri Jorand Gérant de DEMETER SANTE
Une hallucination de l’IA est une affirmation erronée ou non étayée, présentée comme exacte. Six étapes, trois exemples fictifs et une fiche de contrôle pour vérifier une réponse.
Une hallucination de l’IA (intelligence artificielle) est une affirmation erronée ou non étayée, produite comme si elle était exacte. Elle peut prendre la forme d’une référence inventée, d’un chiffre sans provenance ou d’un résumé qui ne respecte pas le document. Pour la repérer, il faut sortir de la conversation : ouvrir les sources, refaire les calculs et vérifier le contexte ; demander simplement « es-tu sûr ? » ne suffit pas.
Vous préparez un support de formation, une synthèse réglementaire ou un document de management ? L’IA peut vous aider à travailler une matière, mais la responsabilité de ce que vous transmettez ne disparaît pas. Ce guide propose une méthode de contrôle adaptée aux usages professionnels non cliniques.
Qu’est-ce qu’une hallucination de l’IA ?
Une hallucination de l’IA est une affirmation erronée ou non étayée qu’un assistant d’IA générative présente comme si elle était exacte. Elle ne se signale pas d’elle-même : la réponse est rédigée avec la même aisance qu’une réponse juste, ce qui la rend difficile à repérer à la seule lecture.
Elle peut prendre plusieurs formes. Cet article en illustre trois, chacune étant détaillée plus bas dans un exemple fictif.
| Forme d’hallucination | Ce qui doit alerter | Contrôle à réaliser |
|---|---|---|
| Référence inventée | Un titre crédible, mais ni éditeur identifiable, ni publication accessible, ni passage précis | Chercher le document sur le site supposé de l’émetteur, puis dans son catalogue documentaire |
| Chiffre sans provenance | Un pourcentage dont on ignore qui a mesuré quoi, auprès de qui et avec quel point de comparaison | Retrouver l’étude ou la mesure d’origine, sa période, l’effectif concerné et les limites annoncées |
| Résumé qui ne respecte pas le document | Un total qui ne correspond pas aux données, ou une unité qui change d’une phrase à l’autre | Refaire le calcul et comparer chaque phrase du résumé au document |
Pourquoi une réponse d’IA convaincante peut-elle être fausse ?
Une réponse convaincante peut être fausse parce que l’aisance du style, la longueur du texte et le ton affirmatif ne donnent pas une mesure de fiabilité. Un modèle de langage n’est pas un registre officiel : il produit un texte à partir de régularités apprises et du contexte disponible. La Commission nationale de l’informatique et des libertés (CNIL) explique que son fonctionnement probabiliste peut produire des résultats plausibles mais inexacts. Il peut manquer une information, mélanger deux contextes ou compléter un détail absent.
Le travail de Kalai et ses coauteurs, publié sur arXiv le 4 septembre 2025 (Why Language Models Hallucinate, par Kalai, Nachum, Vempala et Zhang), analyse notamment un problème d’incitation : certaines évaluations récompensent une réponse tentée plutôt qu’une abstention prudente. Cette explication ne constitue pas un diagnostic de chaque erreur ni une mesure de fiabilité de tous les produits actuels.
Exemples d’hallucinations de l’IA : trois cas fictifs et leur vérification
Les trois exemples ci-dessous montrent une référence inventée, un pourcentage sans origine et un résumé qui se contredit, avec le contrôle à mener dans chaque cas. Ces scènes sont entièrement inventées pour cet article du 8 octobre 2026. Elles ne proviennent pas d’un test de ChatGPT et ne constituent pas un benchmark. Les titres, chiffres et établissements imaginaires ne doivent pas être repris comme des informations réelles.
Exemple fictif n° 1 : une référence administrative inventée
Dans l’exercice fictif, un assistant invoque un « Guide national de réservation des salles, édition 2026 » pour affirmer qu’une réunion doit durer exactement 45 minutes. Le titre paraît crédible. Mais on ne dispose ni d’un éditeur identifiable, ni d’une publication accessible, ni d’un passage précis.
Vérification : chercher le titre sur le site supposé de l’émetteur, puis dans son catalogue documentaire. Demander le passage exact peut aider à formuler la recherche, pas prouver la référence. Si vous ne la retrouvez pas, classez l’affirmation comme non vérifiée. Retirez-la du document diffusé ou remplacez-la par une règle interne réellement consultée.
Exemple fictif n° 2 : un pourcentage sans origine
Autre exemple fictif : « Cet outil réduit de 24 % le temps administratif ». Qui a mesuré quoi, auprès de qui et avec quel point de comparaison ? Sans ces éléments, le chiffre ne doit pas devenir une promesse commerciale ou un argument de décision.
Vérification : retrouver l’étude ou la mesure d’origine, sa période, l’effectif concerné, la définition du temps mesuré et les limites annoncées. Un résultat sur une tâche expérimentale ne se transfère pas automatiquement à un établissement. À défaut de preuve, conserver une hypothèse d’essai explicitement nommée, sans publier le chiffre.
Exemple fictif n° 3 : un résumé qui se contredit
Un tableau fictif contient 80 inscriptions au premier atelier et 90 au second. La synthèse annonce 180 participations, puis parle de 180 personnes différentes. Deux problèmes se superposent : 80 + 90 = 170 participations ; et les mêmes personnes peuvent avoir assisté aux deux ateliers.
Vérification : refaire l’addition sur les données autorisées, distinguer participations et personnes uniques, puis contrôler chaque phrase du résumé. Même une correction arithmétique ne règle pas l’ambiguïté de l’unité statistique.
Comment vérifier une réponse de l’IA ? Une méthode en six étapes
Pour vérifier une réponse de l’IA, décomposez-la en affirmations, puis contrôlez les plus importantes sur une preuve extérieure à la conversation avant de décider ce que vous en faites. La méthode ci-dessous s’applique aux usages professionnels non cliniques.
- Décomposer la réponse. Isoler les faits, chiffres, obligations, recommandations et suppositions. Un paragraphe peut contenir plusieurs affirmations qui nécessitent des preuves différentes.
- Prioriser selon la conséquence. Une formulation décorative et une information qui engage un droit, une dépense ou une sécurité ne demandent pas le même niveau de revue. Une question clinique sort du périmètre de ce guide.
- Retrouver une source indépendante. Aller au texte officiel, à la documentation du produit ou à la publication de recherche. Ne pas rester dans la liste de liens fournie par l’assistant.
- Contrôler le contexte. Vérifier la date, la version, le public, le territoire et les exceptions. Une règle exacte pour un secteur peut être inapplicable à un autre.
- Refaire ce qui peut l’être. Recalculer un total, comparer un résumé au document ou reproduire un essai non sensible. Conserver le passage qui justifie la conclusion.
- Décider explicitement. Retenir, corriger, retirer ou faire examiner l’affirmation. Si une incertitude importante demeure, ne pas l’effacer par une tournure assurée.
Le rapprochement entre un résumé et son document d’origine vaut aussi pour les comptes rendus générés : notre article Compte rendu de réunion avec l’IA : une méthode pour rédiger sans inventer est consacré à ce cas.
Erreurs à éviter lors de la vérification
- Se contenter d’une confirmation de l’assistant. Demander « es-tu sûr ? » ne fait pas sortir de la conversation ; cela ne remplace ni la source ni le calcul.
- Considérer qu’une référence prouve l’affirmation parce qu’elle existe. Une source réelle peut être mal interprétée ou concerner un autre public : il faut retrouver le passage qui soutient la phrase.
- Corriger le chiffre sans vérifier l’unité. Dans l’exemple fictif n° 3, rectifier le total ne dit pas s’il s’agit de participations ou de personnes différentes.
- Oublier la date, la version, le public ou le territoire. Une règle exacte pour un secteur peut être inapplicable à un autre.
- Effacer une incertitude par une tournure assurée. Si un doute important demeure, il doit rester visible, ou l’affirmation doit être retirée ou soumise à examen.
Quelle trace conserver après avoir vérifié une réponse de l’IA ?
La trace minimale tient en quatre points : l’affirmation et son usage, la preuve, le contrôle indépendant réalisé et la conclusion retenue. Le tableau suivant les présente sous la forme d’une fiche de contrôle.
| Point à documenter | Question pratique |
|---|---|
| Affirmation et usage | Quelle phrase veut-on utiliser et quelle décision pourrait-elle influencer ? |
| Preuve | Quel document, quelle version et quel passage la soutiennent ? |
| Contrôle indépendant | Quel calcul, essai ou rapprochement a été réalisé ? |
| Conclusion | Confirmée dans ce contexte, corrigée, retirée ou à vérifier ? Par qui et à quelle date ? |
Cette fiche est une proposition pédagogique, pas une procédure universelle. Ne copiez pas de données personnelles dans un journal de test ouvert. Privilégiez des cas entièrement fictifs et une trace limitée aux éléments nécessaires.
Exemple fictif de fiche remplie
Cet exemple est inventé ; il prolonge le cas fictif des deux ateliers présenté plus haut.
- Affirmation et usage : « 180 personnes différentes ont participé aux ateliers », phrase prévue pour un bilan d’activité fictif.
- Preuve : le tableau fictif, qui indique 80 inscriptions au premier atelier et 90 au second.
- Contrôle indépendant : addition refaite (80 + 90 = 170 participations) ; le tableau ne permet pas de compter les personnes uniques.
- Conclusion : affirmation corrigée en « 170 participations » ; le nombre de personnes différentes reste à vérifier sur les données autorisées. La fiche mentionne la personne qui a réalisé le contrôle et la date.
Un prompt ou un RAG suffisent-ils à éviter les hallucinations ?
Non : les solutions techniques peuvent améliorer les réponses, sans tout garantir. Un prompt (la consigne rédigée pour l’assistant) peut demander de distinguer faits et hypothèses, de s’abstenir si une preuve manque et de citer le passage utilisé. Un assistant documentaire de type RAG (retrieval-augmented generation, génération augmentée par la recherche de documents) peut rechercher des ressources contrôlées. Mais une instruction peut être mal suivie, un document mal sélectionné ou une citation utilisée hors contexte. Notre comparaison RAG ou fine-tuning détaille ces choix.
| Solution | Ce qu’elle peut améliorer | Ce qu’elle ne garantit pas |
|---|---|---|
| Prompt | Demander de distinguer faits et hypothèses, de s’abstenir si une preuve manque et de citer le passage utilisé | L’instruction peut être mal suivie |
| Assistant documentaire (RAG) | Rechercher des ressources contrôlées et les apporter au modèle | Les documents peuvent être absents, inadaptés ou mal exploités ; une citation peut être utilisée hors contexte |
| Évaluation de l’assistant | Tester l’assistant sur la tâche, y compris sur les cas où il doit dire qu’il ne sait pas | Un bon score global ne dispense pas de regarder les erreurs les plus importantes pour votre usage |
La documentation OpenAI sur les évaluations recommande des tests liés à la tâche et une confrontation au jugement humain. Pour une organisation, l’enjeu est de tester aussi les cas où l’assistant doit dire qu’il ne sait pas. Un bon score global ne dispense pas de regarder les erreurs les plus importantes pour votre usage. Consultez notre grille d’évaluation d’un assistant IA pour structurer cette démarche.
Si l’assistant s’appuie sur vos propres documents, leur actualité compte aussi : c’est l’objet de notre article Base de connaissances IA : garder des documents à jour dans un assistant RAG.
Comment former les équipes à vérifier les réponses de l’IA ?
Former les équipes consiste à faire de la vérification l’objet même de l’exercice. Un atelier utile ne consiste pas à faire produire le texte le plus brillant. Il consiste à demander : « Qu’ai-je vérifié, qu’est-ce qui manque et puis-je diffuser cette version ? ». Avant tout essai, consultez les précautions de confidentialité.
Proposition de déroulé pour un atelier
Ce déroulé est une proposition pédagogique à adapter à votre contexte.
- Partir d’une réponse générée sur un cas entièrement fictif, sans donnée personnelle.
- Faire décomposer la réponse : chaque participant isole les faits, chiffres, obligations, recommandations et suppositions.
- Répartir les affirmations importantes et chercher, pour chacune, une source indépendante ou un calcul à refaire.
- Remplir la fiche de contrôle pour une ou deux affirmations.
- Conclure à voix haute : retenir, corriger, retirer ou faire examiner.
Deux prolongements sont utiles. Vérifier suppose de ne pas valider par défaut ce que propose l’outil : c’est le sujet de notre article Biais d’automatisation : garder un véritable contrôle sur les réponses de l’IA. Les règles retenues par l’équipe peuvent ensuite être inscrites dans un cadre commun, par exemple une charte d’utilisation de l’IA générative.
DEMETER SANTE peut vous accompagner dans une formation aux usages de l’IA ou dans le cadrage d’un dispositif sur mesure avec son partenaire JustAI. Définir des critères métier vient avant la promesse de fiabilité ; échangeons sur votre besoin. Pour situer ce sujet dans un parcours plus large, consultez les formations IA et numérique pour la santé et le médico-social.
Questions fréquentes
Qu’est-ce qu’une hallucination de l’IA ?
Une hallucination de l’IA est une affirmation erronée ou non étayée, produite comme si elle était exacte. Elle peut prendre la forme d’une référence inventée, d’un chiffre sans provenance ou d’un résumé qui ne respecte pas le document.
Pourquoi ChatGPT peut-il inventer une réponse ?
Un modèle de langage produit un texte à partir de régularités apprises et du contexte disponible. Il peut générer une affirmation plausible sans preuve suffisante. La recherche souligne notamment le rôle d’évaluations qui récompensent une tentative plutôt que la reconnaissance d’une incertitude.
Une réponse avec des sources est-elle fiable ?
Pas automatiquement. Ouvrez la référence, vérifiez son existence, sa date et le passage qui soutient l’affirmation. Une source réelle peut être mal interprétée ou concerner un autre public. Une référence introuvable doit rester non vérifiée, et non être présentée comme une preuve.
Le RAG supprime-t-il les hallucinations ?
Non. Le RAG (génération augmentée par la recherche de documents) apporte des documents au modèle, mais ceux-ci peuvent être absents, inadaptés ou mal exploités. Vérifiez séparément la recherche des documents, la fidélité de la réponse et sa cohérence avec la question.
Peut-on demander à une autre IA de vérifier la première ?
Une autre IA peut aider à repérer des points à contrôler, mais ses réponses peuvent aussi contenir des erreurs. La vérification finale doit s’appuyer sur une source indépendante, un calcul reproductible ou une personne compétente, selon l’enjeu.
Demander « es-tu sûr ? » à l’IA suffit-il à vérifier une réponse ?
Non. Pour repérer une hallucination, il faut sortir de la conversation : ouvrir les sources, refaire les calculs et vérifier le contexte. Demander le passage exact à l’assistant peut aider à formuler une recherche, pas prouver la référence.
À retenir
- Une hallucination de l’IA est une affirmation erronée ou non étayée, produite comme si elle était exacte.
- L’aisance du style, la longueur du texte et le ton affirmatif ne donnent pas une mesure de fiabilité.
- Vérifier une réponse impose de sortir de la conversation : ouvrir les sources, refaire les calculs et contrôler le contexte.
- Une référence introuvable reste non vérifiée et ne doit pas être présentée comme une preuve.
- Un prompt, un assistant documentaire ou une seconde IA peuvent aider, sans tout garantir : la décision de retenir, corriger ou retirer une affirmation reste explicite et humaine.
Sources et méthode
Sources primaires consultées le 8 octobre 2026. Les exemples et outils sont des propositions pédagogiques originales DEMETER SANTE. Ils ne constituent ni des résultats clients ni une validation juridique ou clinique personnalisée. Aucune relecture spécialisée non réalisée n’est revendiquée.
- Kalai, Nachum, Vempala et Zhang, arXiv : Why Language Models Hallucinate : rôle de l’entraînement, de l’incertitude et des évaluations — publication initiale : 2025-09-04
- CNIL : Questions-réponses sur l’utilisation d’un système d’IA générative
- OpenAI : Evaluation best practices : évaluation adaptée à la tâche et confrontation au jugement humain
Sources et références
- Why Language Models Hallucinate : rôle de l’entraînement, de l’incertitude et des évaluations — Kalai, Nachum, Vempala et Zhang, arXiv (2025-09-04) · consulté le 2026-10-08
- Questions-réponses sur l’utilisation d’un système d’IA générative — CNIL · consulté le 2026-10-08
- Evaluation best practices : évaluation adaptée à la tâche et confrontation au jugement humain — OpenAI · consulté le 2026-10-08