Glossaire IA · Modèles
SLM (small language model)
En une phrase
Un SLM (small language model) est un modèle de langage doté de beaucoup moins de paramètres qu'un LLM. Il en sait moins sur tout, mais répond plus vite, coûte moins cher et peut tourner sur un serveur modeste, un ordinateur portable, voire un téléphone.
Autres noms: small language model · petit modèle de langage · modèle léger · modèle compact
Qu’est-ce qu’un SLM ?
Un SLM est la version compacte d’un modèle de langage. Il fonctionne comme un LLM : il prédit des tokens l’un après l’autre grâce à un réseau transformer. La différence tient à l’échelle. Avec moins de paramètres, il stocke moins de connaissances générales et raisonne moins bien sur des problèmes longs, mais il demande bien moins de mémoire et de puissance de calcul.
Passez à la pratique
L'IA d'UTIO, par API
Dès 29 €/mois + TVA
Pour les développeurs et les agences qui construisent leurs propres produits.
Découvrir l'API d'IACe compromis le rend intéressant dans trois cas : quand la vitesse compte (une conversation vocale ne tolère pas les silences), quand le volume est élevé et que chaque requête pèse sur la facture, et quand les données ne doivent pas quitter une machine précise.
Plusieurs familles de modèles déclinent des versions réduites à côté des grandes, comme Phi, Gemma, Llama ou Mistral. Beaucoup sont diffusées en IA open source ou avec des poids ouverts.
En lien avec ce terme
API d'IA
- Transcription, voix, texte, image, OCR et embeddings
- Clés par client avec plafond de dépense
- Porte-monnaie prépayé : recharge minimale de 50 €
Dès 29 €/mois + TVA Compte avec panneau, plus la consommation
Découvrir l'API d'IAComment ça marche
On obtient un SLM de plusieurs façons, souvent combinées :
- Entraîner un petit modèle dès le départ sur des données très sélectionnées, en misant sur la qualité plutôt que la quantité.
- Distiller un grand modèle : le petit apprend à reproduire les réponses du grand.
- Le compresser ensuite par quantification, qui réduit la précision des nombres pour qu’il prenne moins de place.
On peut ensuite le spécialiser par fine-tuning. Un SLM ajusté pour trier les e-mails d’un secteur peut approcher un LLM généraliste sur cette tâche, pour une fraction du coût.
Exemple
Un grossiste en matériel électrique de Lille reçoit chaque jour des centaines de commandes par e-mail, rédigées chacune à sa manière. Il doit en extraire la référence, la quantité et l’adresse de livraison pour alimenter son ERP.
Inutile de sortir le plus gros modèle du marché. Un SLM bien paramétré extrait ces champs en quelques millisecondes et pour un coût minime. Les commandes douteuses, par exemple avec une référence inexistante, sont signalées pour qu’un collaborateur les vérifie.
Les SLM chez UTIO
L’API d’IA d’UTIO permet de choisir le niveau de modèle pour la génération de texte : basique, standard ou supérieur. C’est la logique des SLM : toutes les tâches n’exigent pas le modèle le plus puissant. Pour classer, résumer ou extraire des données en masse, un niveau basique suffit souvent ; pour des réponses longues ou sensibles, il vaut mieux monter d’un cran.
Les tarifs à l’unité de chaque niveau sont publiés dans le panneau, avec la référence des modèles. Bien choisir la taille du modèle est l’une des décisions qui pèsent le plus sur le coût d’un agent IA.
Questions fréquentes
À partir de quelle taille un modèle est-il « petit » ?
Il n'existe pas de seuil officiel. On parle généralement de SLM pour les modèles de quelques milliards de paramètres ou moins, face aux LLM qui en comptent des dizaines ou des centaines de milliards. La frontière bouge : ce qui passe pour petit aujourd'hui aurait été énorme il y a quelques années.
Un SLM suffit-il pour un chatbot d'entreprise ?
Pour des tâches bien délimitées, oui : trier des messages, extraire les données d'une commande, répondre sur un catalogue avec l'aide du RAG. Pour des échanges ouverts ou des raisonnements en plusieurs étapes, un modèle plus grand reste en général plus fiable.
Peut-on faire tourner un SLM sur ses propres machines ?
Beaucoup de SLM sont publiés avec des poids ouverts et tiennent sur un ordinateur doté d'une bonne carte graphique, surtout une fois quantifiés. Les données restent alors dans votre infrastructure, à condition de l'entretenir vous-même.
Termes associés
- LLM
Un LLM (large language model, grand modèle de langage) est un modèle d'IA entraîné sur d'immenses volumes de texte pour prédire le mot suivant. Cette capacité lui permet de rédiger, résumer, traduire, classer et converser.
- Modèle de langage
Un modèle de langage est un système d'IA qui calcule quel mot, ou quel token, a le plus de chances de suivre un texte. En répétant cette prédiction, il peut compléter une phrase, répondre à une question, résumer ou traduire.
- Quantification
La quantification est une technique qui stocke les paramètres d'un modèle d'IA avec des nombres moins précis, par exemple 8 ou 4 bits au lieu de 16. Le modèle occupe moins de mémoire et répond souvent plus vite, au prix d'une perte de qualité parfois minime.
- Inférence
L'inférence est le moment où un modèle d'IA déjà entraîné est utilisé : il reçoit une entrée nouvelle, comme une question, un audio ou une image, et calcule la réponse avec ce qu'il a appris, sans modifier ses paramètres.
- Fine-tuning
Le fine-tuning (ajustement fin) consiste à réentraîner un modèle d'IA déjà pré-entraîné sur un petit ensemble d'exemples propres, afin de le spécialiser dans une tâche, un format ou un style précis sans repartir de zéro.
Mis à jour le