Glosario de IA · Modelos
SLM (small language model)
En una frase
Un SLM (small language model) es un modelo de lenguaje con muchos menos parámetros que un LLM. Sabe menos de todo, pero responde más rápido, cuesta menos y puede ejecutarse en un servidor modesto, un portátil o incluso un móvil.
También se llama: small language model · modelo de lenguaje pequeño · modelo ligero · modelo compacto
¿Qué es un SLM?
Un SLM es la versión compacta de un modelo de lenguaje. Funciona igual que un LLM: predice tokens uno tras otro con una red transformer. La diferencia es de escala. Al tener menos parámetros, guarda menos conocimiento general y razona peor en problemas largos, pero necesita mucha menos memoria y potencia de cálculo.
Llévalo a tu empresa
La IA de UTIO, por API
Desde 29 €/mes + IVA
Para desarrolladores y agencias que montan sus propios productos.
Ver el API de IAEse equilibrio lo hace útil en tres situaciones: cuando la velocidad importa (una conversación por voz no admite esperas), cuando el volumen es alto y el coste por petición cuenta, y cuando los datos no deben salir de un equipo concreto.
Hay familias de modelos que publican versiones pequeñas junto a las grandes, como Phi, Gemma, Llama o Mistral. Muchas se distribuyen como IA open source o con pesos abiertos.
Relacionado con este término
API de IA
- Transcripción, voz, texto, imagen, OCR y embeddings
- Claves por cliente con tope de gasto
- Monedero prepago: recarga mínima de 50 €
Desde 29 €/mes + IVA Cuenta con panel, más consumo
Ver el API de IACómo funciona
Un SLM se consigue de varias formas, a menudo combinadas:
- Entrenar un modelo pequeño desde cero con datos muy seleccionados, de más calidad que cantidad.
- Destilar un modelo grande: el pequeño aprende a imitar las respuestas del grande.
- Comprimirlo después con cuantización, que reduce la precisión de los números para que ocupe menos.
Luego se puede especializar con fine-tuning en una tarea concreta. Un SLM ajustado para clasificar correos de un sector puede acercarse a un LLM generalista en esa tarea, con una fracción del coste.
Ejemplo
Una distribuidora de material eléctrico de Bilbao recibe cientos de pedidos al día por correo, cada uno escrito a su manera. Necesita extraer referencia, cantidad y dirección de entrega para meterlos en su ERP.
No hace falta el modelo más grande del mercado para eso. Un SLM bien instruido extrae los campos en milisegundos y a bajo coste. Los pedidos dudosos, como uno con una referencia que no existe, se marcan para que los revise una persona.
Los SLM en UTIO
El API de IA de UTIO permite elegir el nivel de modelo para la generación de texto: básico, estándar o superior. La lógica es la misma que la de los SLM: no todas las tareas necesitan el modelo más capaz. Para clasificar, resumir o extraer datos en volumen suele bastar un nivel básico; para respuestas largas o delicadas compensa subir.
Las tarifas por unidad de cada nivel están publicadas en el panel, junto con la referencia de modelos. Elegir bien el tamaño es una de las decisiones que más influyen en el coste de un agente de IA.
Preguntas frecuentes
¿A partir de qué tamaño un modelo deja de ser pequeño?
No hay una frontera oficial. Se suele llamar SLM a los modelos de unos pocos miles de millones de parámetros o menos, frente a los LLM de decenas o cientos de miles de millones. La línea se mueve con el tiempo: lo que hoy es pequeño habría sido enorme hace pocos años.
¿Un SLM sirve para un chatbot de empresa?
Para tareas acotadas, sí: clasificar mensajes, extraer datos de un pedido o responder sobre un catálogo con ayuda de RAG. Para conversaciones abiertas y razonamientos de varios pasos, un modelo más grande suele acertar más.
¿Puedo ejecutar un SLM en mis propios equipos?
Muchos SLM se publican con pesos abiertos y caben en un ordenador con una buena tarjeta gráfica, sobre todo si se cuantizan. Eso permite procesar datos sin que salgan de tu infraestructura, a cambio de mantenerla tú.
Términos relacionados
- LLM
Un LLM (large language model, modelo de lenguaje grande) es un modelo de IA entrenado con enormes cantidades de texto para predecir la siguiente palabra. Esa capacidad le permite redactar, resumir, traducir, clasificar y conversar.
- Modelo de lenguaje
Un modelo de lenguaje es un sistema de IA que calcula qué palabra o token es más probable a continuación de un texto. Con esa predicción, repetida una y otra vez, puede completar frases, responder preguntas, resumir o traducir.
- Cuantización
La cuantización es una técnica que guarda los parámetros de un modelo de IA con números de menor precisión, por ejemplo de 16 bits a 8 o 4 bits. El modelo ocupa menos memoria y suele responder más rápido, a cambio de una pérdida de calidad que puede ser pequeña.
- Inferencia
La inferencia es el momento en que un modelo de IA ya entrenado se usa: recibe una entrada nueva, como una pregunta, un audio o una imagen, y calcula la respuesta con lo que aprendió, sin cambiar sus parámetros.
- Fine-tuning
El fine-tuning (ajuste fino) es volver a entrenar un modelo de IA ya preentrenado con un conjunto pequeño de ejemplos propios, para que se especialice en una tarea, un formato o un estilo concretos sin empezar de cero.
Actualizado el