Hallucination
Quand un modèle d'IA affirme avec aplomb quelque chose de faux — un chiffre inventé, une source qui n'existe pas, un fait déformé.
Ce n'est pas un bug, c'est la nature de l'outil : un LLM produit le texte le plus plausible, pas le plus vrai. La parade n'est pas d'espérer que ça n'arrive pas, mais de construire autour : donner les vraies données en contexte (plutôt que de demander de mémoire), exiger les sources, et vérifier tout chiffre avant publication.
Exemple concretRègle d'or de notre brigade, inscrite dans chaque system prompt : aucun agent n'invente un chiffre. Si la donnée n'est pas dans le contexte, l'agent dit « je ne sais pas ».
fondamentauxméthode