Glossaire IA · Prompts
Fenêtre de contexte
En une phrase
La fenêtre de contexte est la quantité maximale de texte, mesurée en tokens, qu'un modèle de langage peut prendre en compte d'un coup : consignes, conversation, documents et sa propre réponse. Ce qui en sort, le modèle ne le voit pas.
Autres noms: contexte · context window · longueur de contexte · mémoire de travail du modèle
Qu’est-ce que la fenêtre de contexte ?
Imaginez un bureau. Tout ce dont le modèle a besoin pour répondre doit être posé dessus : les consignes, l’échange en cours, les documents de référence et la place pour écrire la réponse. La fenêtre de contexte, c’est la taille de ce bureau. Elle se mesure en tokens.
Passez à la pratique
Des agents IA pour répondre à vos clients
Dès 49 €/mois + TVA
Voix, WhatsApp et e-mail avec la ligne incluse : agent, numéros et CRM dans le même abonnement.
Voir les tarifsCertains modèles se contentent de quelques milliers de tokens, d’autres en acceptent des centaines de milliers, voire davantage. Le principe ne change pas : ce qui n’y tient pas n’existe pas pour le modèle au moment de répondre.
En lien avec ce terme
Agents UTIO
- Disponibles 24h/24 en 26 langues
- Le monter vous-même : 0 €, à partir de votre site
- 14 jours d'essai sans carte
Dès 49 €/mois + TVA
Voir les tarifsComment ça marche
Pour chaque réponse, l’application prépare un paquet et l’envoie au modèle :
- Le system prompt avec les règles fixes.
- L’historique de la conversation.
- Les extraits de documents nécessaires.
- Le nouveau message de l’utilisateur.
La réponse du modèle occupe elle aussi de la place. Quand le paquet approche de la limite, il faut choisir ce qui sort : le plus ancien, un résumé ou les documents les moins utiles.
C’est pourquoi les systèmes bien conçus n’envoient pas toute la documentation de l’entreprise à chaque question. Avec le RAG, ils cherchent les passages pertinents et n’envoient que ceux-là. Moins de coût, des réponses plus rapides, un modèle moins distrait.
Un détail pratique : le modèle ne garde rien d’une réponse à l’autre. Il relit tout le bureau à chaque fois. S’il a l’air de « se souvenir », c’est que l’application lui renvoie l’historique.
Exemple
Un cabinet de conseil en paie à Strasbourg teste un assistant qui répond aux questions sur les bulletins de salaire. Au départ, l’équipe colle la convention collective entière à chaque question. Ça marche, mais chaque réponse est plus lente et plus chère. Et dans les longues conversations, l’assistant oublie ce que le client a dit au début : l’historique ne tient plus à côté de la convention.
La solution : découper la convention et ne chercher que les articles liés à chaque question. Le bureau reste dégagé pour la conversation.
Ce que cela change pour votre entreprise
Si vous utilisez un agent IA, la fenêtre de contexte explique deux choses que vous constaterez. D’abord, pourquoi votre documentation doit être rangée et sans doublons, pour que le bon passage soit trouvé. Ensuite, pourquoi, dans une conversation très longue, l’agent peut perdre des détails du début.
Chez UTIO, les agents répondent avec votre base de connaissances : ils cherchent dans la documentation que vous chargez au lieu de l’envoyer en entier. Et l’essentiel de chaque échange est noté dans le CRM, conservé en Espagne. Vous le retrouvez par exemple dans la verticale support.
Questions fréquentes
Que se passe-t-il quand on dépasse la fenêtre de contexte ?
Cela dépend de l'application. Certaines coupent le début de la conversation, d'autres le résument, d'autres renvoient une erreur. Dans tous les cas, le modèle perd une partie de l'information et peut répondre comme s'il ne l'avait jamais eue.
Une fenêtre de contexte plus grande, c'est toujours mieux ?
Cela donne de la marge, mais a un prix. Chaque token envoyé se paie et rallonge le temps de réponse. Et sur des contextes très longs, les modèles exploitent moins bien les informations du milieu. N'envoyer que l'utile donne souvent de meilleurs résultats.
La fenêtre de contexte, c'est la mémoire du modèle ?
C'est sa mémoire de travail le temps d'une réponse. Le modèle ne retient rien d'une conversation à l'autre : si un agent se souvient d'un client, c'est que l'application conserve ces données et les lui renvoie.
Termes associés
- Token
Un token est le morceau de texte que manipule un modèle de langage : un mot, une partie de mot ou un signe. Le modèle lit, compte et facture en tokens, pas en mots ni en caractères.
- Prompt
Un prompt est l'instruction ou le texte que l'on donne à un modèle d'IA pour obtenir quelque chose : une question, une consigne, un document à résumer ou un mélange des trois. La qualité de la réponse dépend en grande partie du prompt.
- RAG
Le RAG (génération augmentée par récupération) est une technique qui fait chercher à un modèle de langage les passages utiles dans vos documents, puis rédiger sa réponse à partir d'eux, au lieu de répondre uniquement de mémoire.
- Mémoire d'un agent IA
La mémoire d'un agent désigne les informations qu'un agent IA conserve pour s'en resservir : ce qui a été dit dans l'échange en cours (court terme) et les données gardées des échanges précédents, comme les préférences ou l'historique d'un client (long terme).
- LLM
Un LLM (large language model, grand modèle de langage) est un modèle d'IA entraîné sur d'immenses volumes de texte pour prédire le mot suivant. Cette capacité lui permet de rédiger, résumer, traduire, classer et converser.
Mis à jour le