Une hallucination IA est une situation où un modèle d’intelligence artificielle générative (LLM) invente une information fausse, un nom, une date, une citation, un lien, un fait, un calcul ou une relation, en la présentant comme vraie, sans que ce soit intentionnel. Cette sortie inexacte ou fausse est produite parce que le modèle prédit ce qui « sonne juste » statistiquement, pas ce qui est réellement exact.

Le NIST emploie également le terme de confabulation. L’hallucination peut concerner un fait isolé comme une référence complète ou une relation entre concepts. Elle est une conséquence du fonctionnement même des modèles génératifs : ils sont entraînés à produire du texte plausible, pas à vérifier des faits.

Ce qui se passe concrètement

Le mécanisme de l’hallucination s’enracine dans le fonctionnement des LLM :

• Prédiction statistique, pas vérification : Un LLM génère une réponse en calculant la probabilité du mot suivant le plus pertinent. Il ne « cherche » pas l’information dans une base de données ; il la construit à partir de ce qu’il a appris.
• Plausibilité vs exactitude : Le modèle a appris des patterns linguistiques et des associations. Il peut produire une phrase grammaticalement parfaite et sémantiquement plausible qui contient pourtant une information fausse, parce que les mots qui la composent sont statistiquement associés.
• Absence de conscience de la vérité : Le modèle ne sait pas qu’il invente. Il n’a pas de notion de « vrai » ou « faux », seulement de « probable » ou « improbable » selon ses données d’entraînement.
• Facteurs aggravants : Des questions ambiguës, des sujets mal documentés dans les données d’entraînement, ou l’absence de contexte pertinent augmentent le risque d’hallucination.

Ce que ça change dans la pratique

• Dimensionner la vérification selon le dommage potentiel : Une hallucination dans un chatbot de divertissement est anecdotique ; une hallucination dans un contexte médical, juridique ou financier peut avoir des conséquences graves. Le niveau de contrôle doit être proportionné à l’usage.
• Ne pas confondre fluidité et exactitude : La capacité d’un modèle à répondre de manière convaincante ne garantit pas que sa réponse est juste. La fluidité est une propriété de surface ; l’exactitude est une propriété de fond.
• Prévoir une réponse « information insuffisante » : Un système bien conçu doit pouvoir s’abstenir de répondre si la fiabilité de l’information n’est pas garantie, plutôt que d’inventer une réponse.
• Mettre en place des contrôles adaptés : Sources consultables, contraintes de format, calcul déterministe pour les opérations numériques, abstention et relecture humaine.

Cas d’usage

Un assistant juridique alimenté par un LLM est interrogé sur une décision de justice précise. Le modèle génère une réponse détaillée avec un numéro de décision, une date et un résumé qui semblent plausibles. Mais ces informations sont inventées. Pour éviter cela, le workflow est conçu pour exiger une source retrouvée (via un système RAG) et refuse la réponse si le passage pertinent ne peut être localisé dans la base de jurisprudence. Le système peut ainsi préférer une réponse « information insuffisante » à une réponse fausse.

Erreurs de confusion fréquentes

• Hallucination ≠ toute réponse inattendue : Une réponse surprenante mais correcte n’est pas une hallucination. C’est une réponse inattendue.
• Hallucination ≠ divergence d’opinion : Une opinion différente de la vôtre, si elle est cohérente et fondée, n’est pas une hallucination. C’est une perspective différente.
• Hallucination ≠ risque supprimé par un simple prompt : Demander au modèle de « ne pas inventer » ou de « dire la vérité » ne garantit rien. La réduction des hallucinations nécessite des contrôles systémiques (RAG, sources, abstention), pas seulement des instructions.

Pour aller plus loin

• Notions liées : LLM, RAG, Agent IA, Confabulation, Évaluation de modèle, Fiabilité des sorties.

Sources / références

Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile — NIST