En 2023, un avocat new-yorkais a soumis un mémoire juridique devant un tribunal fédéral. Le document citait six décisions de justice à l’appui de son argumentation. Le problème : aucune de ces décisions n’existait. Elles avaient été intégralement inventées par ChatGPT. L’avocat a été sanctionné de 5 000 dollars d’amende et l’affaire a fait le tour du monde.
Ce n’est pas un cas isolé. L’IA qui ment — ou plus précisément, l’IA qui hallucine — est un phénomène structurel, pas un bug occasionnel. Et si vos équipes utilisent l’IA sans comprendre ce mécanisme, les risques sont considérables.
À retenir
- Les hallucinations ne sont pas des bugs — elles sont inhérentes au fonctionnement des LLM
- Les modèles les plus récents hallucinent encore dans 3 à 10% des cas selon les tâches
- Les erreurs les plus dangereuses sont celles qui paraissent plausibles et détaillées
- 5 réflexes simples permettent de détecter la grande majorité des hallucinations
Pourquoi l’IA « ment » — le mécanisme des hallucinations
D’abord, clarifions : une IA ne ment pas. Mentir implique une intention de tromper. Un grand modèle de langage (LLM) comme ChatGPT, Claude ou Gemini ne comprend pas ce qu’il dit. Il prédit le prochain mot le plus probable dans une séquence, en s’appuyant sur des patterns statistiques appris pendant l’entraînement.
Quand le modèle n’a pas d’information fiable sur un sujet, il ne dit pas « je ne sais pas ». Il génère une réponse qui ressemble à une réponse correcte — parce que c’est exactement ce qu’il est entraîné à faire. C’est ce qu’on appelle une hallucination.
Les hallucinations surviennent principalement dans trois situations :
- Questions factuelles précises — dates, chiffres, noms, citations exactes
- Sujets peu représentés dans les données d’entraînement — niches, événements récents, informations locales
- Demandes de sources — l’IA invente des URLs, des DOI, des références bibliographiques qui n’existent pas
3-10%
taux d'hallucination des LLM actuels selon le type de tâche, même pour les modèles les plus récents (GPT-4o, Claude 3.5)
Source : Vectara Hallucination Leaderboard 2025
Les hallucinations les plus célèbres — et les plus coûteuses
Le cas de l’avocat new-yorkais n’est que la partie émergée de l’iceberg. Voici d’autres exemples documentés :
Google Bard et les exoplanètes (2023). Lors de la démo officielle de Bard, l’IA a affirmé que le télescope spatial James Webb avait pris « les toutes premières images d’une exoplanète en dehors de notre système solaire ». C’est faux — la première image date de 2004 (VLT/NACO). L’erreur a coûté à Alphabet une chute de 100 milliards de dollars en capitalisation boursière en une journée.
Air Canada et le chatbot menteur (2024). Le chatbot IA d’Air Canada a promis à un passager un tarif de deuil réduit qui n’existait pas. La compagnie a tenté d’argumenter que le chatbot était une « entité légale distincte » responsable de ses propres erreurs. Le tribunal a rejeté l’argument et condamné Air Canada à honorer la réduction inventée.
Les fausses études scientifiques. Une analyse publiée dans Nature (2024) a montré que des articles académiques contenant des hallucinations d’IA avaient été publiés dans des revues à comité de lecture, incluant des références à des études qui n’ont jamais existé.
Le danger n’est pas l’hallucination évidente — c’est celle qui est juste assez plausible pour ne pas être vérifiée. Un chiffre inventé avec une source crédible, une jurisprudence inexistante citée avec le bon format, un fait historique légèrement déformé.
Pourquoi certaines hallucinations sont presque indétectables
Les hallucinations les plus dangereuses partagent trois caractéristiques :
-
Elles sont détaillées. L’IA ne dit pas « environ 45% ». Elle dit « 47,3% selon l’étude de Thompson et al. (2023) publiée dans le Journal of Applied Economics ». Plus c’est précis, plus c’est convaincant — et plus c’est suspect.
-
Elles sont cohérentes avec le contexte. Si vous demandez des arguments pour une thèse, l’IA produira des « faits » qui soutiennent cette thèse. Elle ne vous contredira pas — elle optimise pour la satisfaction de l’utilisateur, pas pour la vérité.
-
Elles mélangent vrai et faux. Un paragraphe peut contenir 90% d’informations correctes et un chiffre inventé. C’est la stratégie involontaire la plus efficace pour tromper un lecteur.
100 Md$
de capitalisation boursière perdue par Alphabet en une journée après une hallucination de Bard lors de sa démo officielle
Source : Reuters, février 2023
Les 5 réflexes pour détecter une hallucination IA
Vos collaborateurs n’ont pas besoin de devenir experts en machine learning. Ils ont besoin de cinq réflexes systématiques.
1. Vérifier toute affirmation factuelle
Tout chiffre, toute date, tout nom propre, toute citation produite par l’IA doit être vérifié sur une source primaire. Si l’IA cite une étude, cherchez-la. Si elle n’existe pas, c’est une hallucination.
2. Se méfier de la précision excessive
Un LLM qui donne un pourcentage avec une décimale, un numéro de page ou un lien URL spécifique est souvent en train de fabriquer. La précision fausse est l’un des marqueurs les plus fiables des hallucinations.
3. Poser la même question différemment
Reformulez votre prompt et comparez les réponses. Si l’IA donne des chiffres différents ou des sources différentes pour la même question, au moins l’une des réponses est une hallucination.
4. Demander à l’IA son niveau de confiance
Certains modèles récents peuvent indiquer quand ils sont incertains. Ajoutez à vos prompts : « Indique ton niveau de confiance pour chaque affirmation et signale explicitement si tu n’es pas sûr. » Ce n’est pas infaillible, mais cela réduit significativement les hallucinations silencieuses.
5. Ne jamais utiliser l’IA comme source unique
L’IA est un outil de première ébauche, pas une source de vérité. Toute information critique doit être validée par un humain compétent sur le sujet, avec des sources indépendantes.
Ces réflexes doivent être intégrés dans les pratiques quotidiennes des équipes — pas seulement connus théoriquement. C’est toute la différence entre une information ponctuelle et une formation structurée qui ancre les bons comportements.
L’IA qui ment et la responsabilité de l’entreprise
Depuis l’entrée en vigueur de l’AI Act (août 2025), la question des hallucinations n’est plus seulement technique — elle est juridique. L’entreprise qui déploie un outil d’IA est responsable de ses résultats, y compris quand l’outil hallucine.
Le cas Air Canada l’a montré clairement : une entreprise ne peut pas se décharger sur l’IA. Si un chatbot, un rapport ou une communication générée par l’IA contient des informations fausses, c’est la responsabilité de l’organisation.
Cela implique deux choses :
- Mettre en place une charte d’utilisation de l’IA qui définit les processus de vérification obligatoires
- Former les équipes à détecter les hallucinations et à utiliser l’IA de manière responsable
Sans ces garde-fous, chaque usage non supervisé de l’IA est un risque juridique et réputationnel. Le shadow AI — l’utilisation d’outils IA non approuvés — amplifie ce risque de manière exponentielle.
Réduire les hallucinations : ce que les équipes techniques peuvent faire
Au-delà des réflexes individuels, les organisations peuvent agir au niveau technique :
- RAG (Retrieval-Augmented Generation) — connecter l’IA à une base de données interne vérifiée pour ancrer les réponses dans des sources fiables
- Température basse — réduire le paramètre de créativité de l’IA pour les tâches factuelles
- Prompts systèmes stricts — instruire le modèle de citer uniquement des sources vérifiables et de signaler ses incertitudes
- Validation automatique — mettre en place des vérifications automatiques sur les sorties critiques
Ces mesures réduisent le taux d’hallucination mais ne l’éliminent pas. La vigilance humaine reste indispensable.
Former ses équipes : la seule protection fiable
L’IA qui ment ne va pas disparaître. Les modèles s’améliorent — GPT-4o hallucine moins que GPT-3.5 — mais le phénomène est structurellement lié au fonctionnement des LLM. Tant que les modèles prédisent des tokens plutôt que de « comprendre » l’information, les hallucinations persisteront.
La seule protection durable, c’est la compétence des utilisateurs. Des équipes formées aux bons réflexes détectent les erreurs avant qu’elles ne causent des dommages. C’est précisément ce que Brain permet : des programmes de formation IA qui ancrent les bons comportements face aux risques concrets, hallucinations incluses.
Articles similaires
ChatGPT : 5 risques réels pour votre entreprise
Fuites de données, hallucinations, shadow AI : les vrais dangers de ChatGPT en entreprise et comment s'en protéger.
Hallucination IA : 5 méthodes pour s'en protéger
Comprenez pourquoi les IA inventent des informations et appliquez 5 méthodes concrètes pour détecter et éviter les erreurs en entreprise.
Biais IA : 7 types a identifier et prevenir (2026)
Les biais IA menacent vos decisions RH, financieres et commerciales. Decouvrez les 7 types, des exemples reels et les methodes de prevention.