Glosario de IA · Voz
Latencia
En una frase
La latencia es el tiempo que pasa entre que haces una petición y empiezas a recibir la respuesta. En un agente de voz es el silencio desde que el cliente deja de hablar hasta que oye la primera palabra del agente, y decide si la conversación suena natural.
También se llama: tiempo de respuesta · retardo · latency · tiempo hasta el primer token
¿Qué es la latencia?
En cualquier sistema informático, la latencia es la espera. En IA, la medida que más se usa es el tiempo hasta el primer token: cuánto tarda el modelo en empezar a responder. En una web de chat, unos segundos de espera se aceptan. En una llamada no: en una conversación normal las personas se dan el turno en una fracción de segundo, y un silencio largo se interpreta como que la línea se ha cortado o que el otro no ha entendido.
Llévalo a tu empresa
Un agente de voz que coge el teléfono
Desde 149 €/mes + IVA
Atiende llamadas 24/7, agenda citas y deja cada llamada apuntada en el CRM.
Ver el agente de vozPor eso en los agentes de voz la latencia no es un detalle técnico. Es parte de la experiencia.
Relacionado con este término
UTIO Voice
- 500 minutos y un número incluidos
- Conversación natural en 26 idiomas
- Se presenta como asistente virtual
- Prueba de 14 días sin tarjeta
Desde 149 €/mes + IVA
Ver el agente de vozCómo funciona
En un voicebot, la respuesta pasa por una cadena de piezas y cada una suma su tiempo:
| Paso | Qué ocurre | Qué añade |
|---|---|---|
| Detectar el fin del turno | Saber que el cliente ha terminado de hablar | Espera prudente para no cortar |
| Speech to text | Pasar la voz a texto | Tiempo de transcripción |
| Modelo de lenguaje | Pensar la respuesta, a veces consultar una herramienta | Tiempo hasta el primer token |
| Text to speech | Convertir el texto en audio | Tiempo hasta el primer sonido |
| Red y telefonía | Llevar el audio de un sitio a otro | Viaje por la red |
Las técnicas para reducirla son conocidas:
- Streaming en toda la cadena. No esperar a tener la frase completa: transcribir mientras el cliente habla y empezar a sintetizar con las primeras palabras del modelo.
- Modelos del tamaño justo. Un modelo enorme para una pregunta sencilla añade espera sin mejorar la respuesta.
- Menos saltos. Cada proveedor intermedio suma un viaje por la red.
- Interrupciones. Si el cliente habla encima, el agente debe callarse y escuchar, igual que una persona.
Ejemplo
Un taller mecánico de Valladolid prueba dos agentes de voz para coger citas. Con el primero, tras cada pregunta del cliente hay una pausa clara antes de la respuesta. Los clientes repiten la pregunta o dicen «¿hola?», y la conversación se enreda. Con el segundo, que responde en streaming y deja interrumpir, la charla fluye y la cita queda cerrada en menos turnos. Los dos usan modelos parecidos; la diferencia está en cómo están montadas las piezas.
La latencia en UTIO
En el agente de voz de UTIO, la transcripción y el modelo de lenguaje corren en servidores propios, y la telefonía es la de su propio operador, así que la llamada no salta entre muchos proveedores. El agente entiende frases normales, interrupciones y acentos, y no obliga a pulsar teclas ni a hablar despacio.
La mejor forma de juzgar la latencia es escuchar una llamada. Durante la prueba gratuita puedes llamar a tu propio agente y comprobar si el ritmo te parece natural.
Preguntas frecuentes
¿Latencia y velocidad son lo mismo?
No del todo. La latencia mide cuánto tardas en recibir el primer trozo de respuesta. La velocidad, o rendimiento, mide cuánto contenido llega por segundo una vez que empieza. En voz importa sobre todo la latencia: un silencio largo al principio se nota más que una frase que llega a buen ritmo.
¿Por qué un modelo más grande suele tener más latencia?
Porque cada palabra que genera exige más cálculo. Por eso en voz se usan a menudo modelos más ligeros o se combinan: uno rápido para la conversación y otro más potente solo cuando hace falta razonar.
¿La latencia depende de mi conexión?
En parte. Al tiempo de cálculo de los modelos se suma el viaje de la voz por la red y por la telefonía. Cuanto más cerca estén los servidores y menos saltos haya entre proveedores, menos se acumula.
Términos relacionados
- Voicebot
Un voicebot es un programa que conversa por voz: escucha lo que dice una persona, entiende qué quiere y le responde hablando. Puede funcionar en una llamada, una web, una app o un altavoz, y con IA generativa mantiene conversaciones abiertas, no solo menús.
- Speech to text
Speech to text (STT) es la tecnología que convierte el audio hablado en texto escrito. Es la pieza de software, normalmente un modelo accesible por API, que «escucha» en un voicebot, un dictado o un sistema de transcripción, ya sea en tiempo real o sobre grabaciones.
- Text to speech
Text to speech (TTS) es la tecnología que convierte un texto escrito en voz hablada. Es el componente, normalmente un modelo accesible por API, que pone voz a un agente telefónico, a un lector de pantalla o a un audio generado a partir de un texto.
- Inferencia
La inferencia es el momento en que un modelo de IA ya entrenado se usa: recibe una entrada nueva, como una pregunta, un audio o una imagen, y calcula la respuesta con lo que aprendió, sin cambiar sus parámetros.
- Token
Un token es el trozo de texto con el que trabaja un modelo de lenguaje: una palabra, parte de una palabra o un signo. El modelo lee, cuenta y cobra en tokens, no en palabras ni en caracteres.
Actualizado el