Glosario de IA · Prompts
Ventana de contexto
En una frase
La ventana de contexto es la cantidad máxima de texto, medida en tokens, que un modelo de lenguaje puede tener en cuenta a la vez: instrucciones, conversación, documentos y su propia respuesta. Lo que queda fuera, el modelo no lo ve.
También se llama: contexto · context window · longitud de contexto · memoria de trabajo del modelo
¿Qué es la ventana de contexto?
Imagina una mesa de trabajo. Todo lo que el modelo necesita para responder tiene que estar encima: las instrucciones, lo que se ha hablado, los documentos de consulta y el hueco para escribir la respuesta. La ventana de contexto es el tamaño de esa mesa, y se mide en tokens.
Llévalo a tu empresa
Agentes de IA para atender a tus clientes
Desde 49 €/mes + IVA
Voz, WhatsApp y email con la línea incluida: agente, números y CRM en la misma cuota.
Ver planes y preciosHay modelos con ventanas de unos pocos miles de tokens y otros que admiten cientos de miles o más. Pero el principio es el mismo: lo que no cabe, no existe para el modelo en esa respuesta.
Relacionado con este término
Agentes UTIO
- Atienden 24/7 en 26 idiomas
- Montarlo tú cuesta 0 €: se crea leyendo tu web
- Prueba de 14 días sin tarjeta
Desde 49 €/mes + IVA
Ver planes y preciosCómo funciona
En cada respuesta, la aplicación monta un paquete y se lo envía al modelo:
- El system prompt con las reglas fijas.
- El historial de la conversación.
- Los fragmentos de documentos que hagan falta.
- El mensaje nuevo del usuario.
La respuesta del modelo también ocupa sitio. Si el paquete se acerca al límite, hay que decidir qué sale: lo más antiguo, un resumen o los documentos menos útiles.
Por eso los sistemas bien hechos no meten toda la documentación de la empresa en cada pregunta. Con RAG buscan los fragmentos relevantes y solo envían esos. Se gasta menos, se responde antes y el modelo se distrae menos.
Un detalle práctico: el modelo no guarda nada entre una respuesta y la siguiente. Cada vez lee la mesa entera desde cero. Si parece que «se acuerda», es porque la aplicación le vuelve a pasar el historial.
Ejemplo
Una asesoría laboral de Bilbao prueba un asistente que responde dudas sobre nóminas. Al principio le pegan el convenio colectivo entero en cada pregunta. Funciona, pero cada respuesta tarda y cuesta más. Y en conversaciones largas el asistente empieza a olvidar lo que el cliente dijo al principio, porque el historial ya no cabe junto al convenio.
La solución es trocear el convenio y buscar solo los artículos que tienen que ver con cada pregunta. La mesa queda despejada para la conversación.
Cómo te afecta en tu empresa
Si usas un agente de IA, la ventana de contexto explica dos cosas que verás en la práctica. Una: por qué conviene que la documentación esté ordenada y sin repeticiones, para que se encuentre el fragmento correcto. Dos: por qué en una conversación muy larga el agente puede perder detalles del principio.
En UTIO, los agentes responden con tu base de conocimiento: buscan en la documentación que cargas en vez de enviarla entera. Y lo importante de cada conversación queda apuntado en el CRM, que se guarda en España. Lo tienes, por ejemplo, en la vertical de soporte.
Preguntas frecuentes
¿Qué pasa cuando se supera la ventana de contexto?
Depende de la aplicación. Unas cortan lo más antiguo de la conversación, otras lo resumen y otras dan error. En todos los casos, el modelo deja de ver parte de la información y puede responder como si no la tuviera.
¿Una ventana de contexto más grande siempre es mejor?
Da margen, pero tiene costes. Cada token enviado se paga y alarga el tiempo de respuesta. Además, con contextos muy largos los modelos aprovechan peor la información del medio. Enviar solo lo relevante suele dar mejores resultados.
¿La ventana de contexto es la memoria del modelo?
Es su memoria de trabajo durante una respuesta. El modelo no recuerda nada entre conversaciones: si un agente recuerda a un cliente, es porque la aplicación guarda esos datos y se los vuelve a pasar.
Términos relacionados
- Token
Un token es el trozo de texto con el que trabaja un modelo de lenguaje: una palabra, parte de una palabra o un signo. El modelo lee, cuenta y cobra en tokens, no en palabras ni en caracteres.
- Prompt
Un prompt es la instrucción o el texto que le das a un modelo de IA para que haga algo: una pregunta, una orden, un documento para resumir o una combinación de todo. Del prompt depende en buena parte lo que el modelo responde.
- RAG
RAG (generación aumentada por recuperación) es una técnica que hace que un modelo de lenguaje busque primero en tus documentos los fragmentos relevantes y redacte la respuesta a partir de ellos, en lugar de contestar solo de memoria.
- Memoria de un agente
La memoria de un agente es la información que un agente de IA conserva para usarla después: lo dicho en la conversación en curso (corto plazo) y los datos guardados de conversaciones anteriores, como preferencias o historial de un cliente (largo plazo).
- LLM
Un LLM (large language model, modelo de lenguaje grande) es un modelo de IA entrenado con enormes cantidades de texto para predecir la siguiente palabra. Esa capacidad le permite redactar, resumir, traducir, clasificar y conversar.
Actualizado el