Qu'est-ce qu'une hallucination en intelligence artificielle ?

Une hallucination, dans le contexte de l'intelligence artificielle, est une réponse produite par un modèle de langage (LLM) qui contient des informations fausses, inventées ou déformées, présentées avec le même degré de confiance qu'une information vérifiée. Le modèle ne "ment" pas délibérément — il génère la séquence de tokens la plus probable selon ses paramètres, sans distinguer ce qui est factuel de ce qui est plausible.

Pourquoi les LLM hallucinent

Pour comprendre les hallucinations, il faut revenir au fonctionnement d'un LLM. Un modèle de langage est entraîné à prédire le token suivant dans une séquence. Il apprend des patterns statistiques dans le langage, pas des "faits" au sens strict. Quand on lui pose une question factuelle, il ne consulte pas une base de données — il génère la réponse la plus vraisemblable étant donné les patterns appris.

Plusieurs mécanismes produisent des hallucinations :

L'interpolation des connaissances. Le modèle a appris des informations partielles sur un sujet et "comble les trous" avec des éléments plausibles mais incorrects. Par exemple, il peut attribuer un article scientifique réel à un mauvais auteur, ou mélanger des dates d'événements distincts.

La pression à répondre. Par défaut, un LLM est entraîné à toujours produire une réponse. Plutôt que de dire "je ne sais pas", il va générer une réponse qui a la forme d'une réponse correcte. L'alignement par RLHF atténue ce problème, mais ne l'élimine pas.

La confusion entre corrélation textuelle et vérité. Si le modèle a fréquemment vu "Einstein a reçu le prix Nobel de physique en 1921 pour la relativité" dans ses données d'entraînement (une erreur courante — c'était pour l'effet photoélectrique), il peut reproduire cette erreur avec assurance.

Types d'hallucinations

Les chercheurs distinguent plusieurs catégories :

• Hallucinations factuelles. Le modèle invente des faits : des citations qui n'existent pas, des statistiques fabriquées, des événements fictifs présentés comme réels. C'est la forme la plus dangereuse en contexte professionnel.
• Hallucinations de fidélité. Le modèle s'écarte du document source qu'on lui demande de résumer ou d'analyser. Il ajoute des informations absentes du texte original ou en déforme le sens.
• Hallucinations logiques. Le raisonnement du modèle contient des étapes invalides, même si la conclusion peut parfois sembler correcte par hasard.

L'impact en entreprise

Les hallucinations représentent le principal frein à l'adoption des LLM dans les contextes où la fiabilité de l'information est non négociable : juridique, médical, financier, réglementaire. Un chatbot de support client qui invente des conditions de garantie, un assistant juridique qui cite un article de loi inexistant, un outil d'analyse financière qui fabrique des chiffres — les conséquences peuvent être sérieuses.

C'est pourquoi les entreprises qui déploient des LLM en production investissent massivement dans les mécanismes de contrôle et de vérification.

Stratégies pour réduire les hallucinations

Le RAG (Retrieval-Augmented Generation). En fournissant au modèle des documents sources pertinents avant de générer sa réponse, on ancre ses réponses dans des données vérifiables. Le RAG est la technique la plus répandue pour réduire les hallucinations factuelles. Combiné avec des instructions de ne répondre qu'à partir du contexte fourni, il transforme radicalement la fiabilité des réponses.

Le grounding et les citations. Demander au modèle de citer ses sources et les passages exacts sur lesquels il s'appuie permet à l'utilisateur de vérifier. Certains systèmes vont plus loin en vérifiant automatiquement que les citations correspondent bien au texte source.

Les guardrails. Des couches de validation en aval du LLM vérifient la cohérence des réponses : détection de contradictions, vérification factuelle automatisée, filtrage des réponses à faible confiance. Des outils comme Guardrails AI ou NeMo Guardrails d'NVIDIA formalisent cette approche.

Le prompt engineering. Des techniques simples réduisent significativement les hallucinations : demander au modèle de raisonner étape par étape (chain-of-thought), lui dire explicitement "si tu ne sais pas, dis-le", ou limiter ses réponses au contenu fourni.

L'évaluation continue. Mettre en place des benchmarks spécifiques aux hallucinations permet de mesurer et suivre le taux d'hallucination d'un système au fil des itérations. Sans mesure, pas d'amélioration.

Peut-on éliminer les hallucinations ?

La réponse courte est non — pas complètement. Les hallucinations sont une conséquence structurelle du fonctionnement probabiliste des LLM. On peut les réduire drastiquement avec les bonnes techniques, mais un risque résiduel subsiste toujours. C'est pourquoi les architectures de production incluent systématiquement des mécanismes de vérification humaine ou automatisée, selon le niveau de criticité du cas d'usage.

Les progrès récents sont encourageants : les modèles de dernière génération hallucinent moins que leurs prédécesseurs, et les techniques de grounding s'améliorent rapidement. Mais la vigilance reste de mise.