Les hallucinations en IA, vous l'avez certainement déjà subi : une IA qui vous donne une information fausse tout en donnant l'impression que c'est vrai. Une source inexistante, une date erronée, du code inventé (déjà subi pour ma part 😅).
Pourquoi une IA invente des réponses ?
De manière basique, un LLM ne consulte pas une base, il prédit les tokens les plus probables les uns après les autres. Parfois il pourra combler le vide lui-même, comme répondre sur la date de naissance d'une personne peu connue.
Je vous rassure, si vous utilisez du Claude, ChatGPT et compagnie, il y a de moins en moins d'hallucinations : les modèles s'améliorent, et ils vont souvent faire des requêtes sur le web.
En septembre 2025, OpenAI donne une seconde cause dans un article : comme les tests pour évaluer les IA ne pénalisent pas les mauvaises réponses, les modèles apprennent que deviner rapporte...
Exemple
En 2025, le tribunal d'Orléans a relevé des jurisprudences inexistantes dans les conclusions d'un avocat.
Limiter les hallucinations
Autoriser le modèle à répondre qu'il ne sait pas, mettre en place un RAG, lui fournir une source, le connecter à un serveur MCP, etc.
Pour ma part, mon harnais avec Claude Code fait en sorte que le modèle ne réponde pas de mémoire sur les librairies tierces ou les sujets complexes, il va chercher les informations sur le web ou sur Context7 via MCP.
