Glossaire IA · Sécurité et réglementation
Hallucination
En une phrase
Une hallucination est une réponse d'un modèle d'IA qui paraît convaincante mais se révèle fausse ou ne repose sur aucune source : un chiffre, une citation, un prix ou une référence que le modèle invente en produisant le texte le plus probable.
Autres noms: hallucination IA · hallucinations de ChatGPT · confabulation · AI hallucination
Qu’est-ce qu’une hallucination ?
Le mot vient de la psychologie, mais en IA il désigne quelque chose de plus terre à terre : le modèle affirme une chose fausse, avec la même assurance que lorsqu’il dit vrai. Une date, un article de loi qui n’existe pas, une citation prêtée à quelqu’un qui ne l’a jamais prononcée, les horaires imaginaires d’un magasin.
Passez à la pratique
Des agents IA pour répondre à vos clients
Dès 49 €/mois + TVA
Voix, WhatsApp et e-mail avec la ligne incluse : agent, numéros et CRM dans le même abonnement.
Voir les tarifsL’un des cas les plus cités remonte à 2023 aux États-Unis : un avocat a déposé devant un tribunal un mémoire citant des décisions de justice générées par un chatbot. Ces décisions n’existaient pas, et l’avocat a été sanctionné.
Les hallucinations ne sont pas une panne isolée d’un modèle particulier. Elles découlent du fonctionnement même de tout LLM.
En lien avec ce terme
Agents UTIO
- Disponibles 24h/24 en 26 langues
- Le monter vous-même : 0 €, à partir de votre site
- 14 jours d'essai sans carte
Dès 49 €/mois + TVA
Voir les tarifsComment ça marche
Un modèle de langage produit du texte en choisissant, token après token, la suite la plus probable. Il ne consulte aucune base de faits. Conséquences :
- Si l’information ne figure pas dans ce qu’il a appris, ou très peu, il comble le vide avec du vraisemblable.
- Si la question tient quelque chose pour acquis, comme « à quelle heure ouvre votre boutique de Tours ? » alors qu’il n’y en a pas, le modèle a tendance à suivre.
- Si la température est élevée, la part de hasard augmente dans le choix des mots, et le risque avec.
Ce qui les réduit le plus :
- Fournir les sources : avec le RAG, le modèle répond à partir de vos documents, pas de mémoire.
- Lui interdire de répondre à ce qui n’y figure pas, et l’autoriser à dire « je ne sais pas ».
- Relire l’essentiel avant que cela n’atteigne un client.
Les modèles de raisonnement et le fine-tuning peuvent améliorer la précision sur certaines tâches, sans faire disparaître le problème.
Exemple
Une chaîne d’opticiens de la région lyonnaise teste un chatbot générique sur son site. Un client demande si sa mutuelle est acceptée en tiers payant ; le chatbot répond que oui, avec un taux de prise en charge précis. Ni l’accord ni le taux n’existent : le modèle les a déduits du fait que « les opticiens travaillent souvent avec les mutuelles ».
L’enseigne change de méthode : elle charge sa liste réelle de mutuelles partenaires et leurs conditions comme base de connaissances, et demande à l’assistant de le dire quand une mutuelle n’y figure pas, puis de transmettre la demande à l’équipe.
Les hallucinations chez UTIO
Les agents UTIO répondent à partir de votre base de connaissances. Dans la verticale support, ce qui n’est pas dans la documentation ne reçoit pas de réponse inventée : l’agent prend note et ouvre un ticket dans le CRM. L’autonomie est en outre progressive : vous pouvez démarrer en mode brouillon, avec une personne qui valide chaque réponse.
L’agent de contenus applique la même règle à ce que vous publiez : pas de chiffre sans source ; s’il n’en a pas, il met la campagne en pause et vous indique quelle phrase doit être étayée. Un agent IA parle ainsi en votre nom sans inventer ce qu’il ne sait pas.
Questions fréquentes
Pourquoi l'IA invente-t-elle des choses ?
Parce qu'un modèle de langage est entraîné à produire le texte le plus probable, pas à vérifier qu'il est vrai. Quand il ne connaît pas une information, il dit rarement « je ne sais pas » de lui-même : il comble le vide avec ce qui s'intègre bien à la phrase. D'où l'aplomb des hallucinations.
Peut-on supprimer complètement les hallucinations ?
Pas aujourd'hui. On peut en revanche les réduire fortement : en fournissant les sources au modèle à chaque requête, en lui demandant de ne répondre qu'à partir d'elles, en l'autorisant à dire qu'il ne sait pas, et en relisant l'essentiel avant publication ou envoi à un client.
Qui est responsable si le chatbot de mon entreprise donne une fausse information ?
Vis-à-vis du client, en général votre entreprise : l'assistant parle en votre nom. Des tribunaux ont déjà fait assumer à une entreprise les propos de son chatbot. Mieux vaut donc limiter ce qu'il peut affirmer et transmettre à un humain ce qui n'est pas dans ses sources.
Termes associés
- RAG
Le RAG (génération augmentée par récupération) est une technique qui fait chercher à un modèle de langage les passages utiles dans vos documents, puis rédiger sa réponse à partir d'eux, au lieu de répondre uniquement de mémoire.
- Grounding
Le grounding, ou ancrage, consiste à faire reposer les réponses d'un modèle d'IA sur des sources précises et vérifiables, comme vos documents, une base de données ou une recherche, plutôt que sur ce qu'il a retenu de son entraînement.
- Guardrails
Les guardrails sont les garde-fous placés autour d'un modèle d'IA pour qu'il reste dans le cadre prévu : filtres sur ce qui entre et ce qui sort, limites de sujets et d'actions, et règles pour passer la main à une personne quand il le faut.
- Base de connaissances
Une base de connaissances est l'ensemble organisé des informations d'une entreprise (questions fréquentes, conditions, horaires, fiches produit, procédures) dans lequel un agent IA ou une équipe va chercher ses réponses.
- Température
La température est un réglage des modèles de langage qui contrôle la part de hasard dans le choix de chaque token. Basse, le modèle retient presque toujours l'option la plus probable et répond de façon prévisible ; haute, il varie davantage et se montre plus créatif.
Mis à jour le