Glossaire IA · Modèles
Inférence
En une phrase
L'inférence est le moment où un modèle d'IA déjà entraîné est utilisé : il reçoit une entrée nouvelle, comme une question, un audio ou une image, et calcule la réponse avec ce qu'il a appris, sans modifier ses paramètres.
Autres noms: inférence IA · inférence du modèle · inference · prédiction
Qu’est-ce que l’inférence ?
Un modèle d’IA vit deux phases. Pendant l’entraînement, il apprend. Pendant l’inférence, il travaille. Chaque fois qu’un assistant vous répond, qu’un appel est transcrit ou qu’un document scanné devient du texte, une inférence a lieu.
Passez à la pratique
L'IA d'UTIO, par API
Dès 29 €/mois + TVA
Pour les développeurs et les agences qui construisent leurs propres produits.
Découvrir l'API d'IALe terme vient des statistiques : le modèle « infère » une réponse à partir des régularités apprises. Pendant l’inférence, il n’apprend rien : ses paramètres restent figés. S’il semble « se souvenir » de la conversation, c’est que ces informations lui sont renvoyées dans son contexte à chaque requête.
En lien avec ce terme
API d'IA
- Transcription, voix, texte, image, OCR et embeddings
- Clés par client avec plafond de dépense
- Porte-monnaie prépayé : recharge minimale de 50 €
Dès 29 €/mois + TVA Compte avec panneau, plus la consommation
Découvrir l'API d'IAComment ça marche
- L’entrée. La requête arrive : texte, audio ou image, convertis en nombres. Pour les modèles de texte, en tokens.
- Le calcul. Les données traversent le modèle couche après couche. Un modèle de langage répète cette étape pour produire sa réponse token par token.
- La sortie. Le résultat est remis en forme : texte, audio, catégorie ou données structurées.
Deux critères dominent. La latence, c’est-à-dire le temps de réponse, décisive au téléphone. Et le coût, qui dépend de la taille du modèle, du nombre de tokens en entrée et en sortie, et du matériel. Pour la réduire, on recourt à des modèles plus petits, à des techniques comme la quantification, ou on choisit le modèle selon la difficulté de chaque tâche.
Exemple
Une entreprise de rénovation à Angers utilise l’IA de deux façons. La nuit, elle transcrit et résume tous les appels de la journée : rien ne presse, un modèle plus lent et moins cher suffit. En journée, un assistant répond en direct au téléphone : chaque seconde compte, il faut une inférence rapide.
Une même tâche, « comprendre le langage », n’a pas les mêmes exigences selon le moment. Choisir le bon modèle pour chaque usage, c’est avant tout une décision d’inférence : un arbitrage entre qualité, rapidité et coût.
L’inférence chez UTIO
Avec l’API d’IA d’UTIO, vous payez l’inférence : chaque transcription, chaque réponse texte, chaque image ou chaque document passé en OCR. Une seule clé ouvre l’ensemble des fonctions, et les tarifs à l’unité, selon le niveau de modèle (basique, standard ou supérieur), sont publiés dans le panneau. Vous réservez ainsi le niveau élevé aux tâches où la qualité prime, et le niveau basique aux traitements massifs et simples.
Pour les agents, c’est différent : avec l’agent vocal, la minute inclut déjà le modèle, la voix, la transcription et la téléphonie, sans calcul d’inférences de votre côté. Ce que vous percevez, en revanche, c’est la latence : au téléphone, l’agent doit répondre sans blanc gênant.
Questions fréquentes
Quelle différence entre inférence et entraînement ?
Pendant l'entraînement, le modèle apprend : on ajuste ses paramètres sur de nombreux exemples. Pendant l'inférence, il travaille : il répond à des entrées nouvelles avec des paramètres figés. L'entraînement est rare et coûte cher d'un coup ; l'inférence se répète à chaque usage et son coût suit le volume.
Pourquoi l'inférence d'un grand modèle est-elle plus lente et plus chère ?
Parce que chaque réponse mobilise tout ou partie de ses paramètres, et que les modèles de langage refont ce calcul pour chaque token produit. Plus de paramètres et des réponses plus longues, c'est plus de calcul, plus de temps et plus de coût.
Où se fait l'inférence ?
Le plus souvent sur les serveurs du fournisseur, appelés via une API. Les petits modèles peuvent aussi tourner sur votre propre serveur, un ordinateur portable ou un smartphone : plus de maîtrise des données, mais il faut le matériel adapté.
Termes associés
- Entraînement d'un modèle
L'entraînement d'un modèle est le processus par lequel un modèle d'IA apprend à partir d'un jeu de données : on lui présente des exemples, on mesure ses erreurs et on ajuste ses paramètres, encore et encore, jusqu'à obtenir de bonnes réponses.
- Latence
La latence est le temps qui s'écoule entre une requête et le début de la réponse. Pour un agent vocal, c'est le silence entre le moment où le client se tait et celui où il entend le premier mot de l'agent : c'est elle qui rend la conversation naturelle ou non.
- Token
Un token est le morceau de texte que manipule un modèle de langage : un mot, une partie de mot ou un signe. Le modèle lit, compte et facture en tokens, pas en mots ni en caractères.
- Modèle d'IA
Un modèle d'IA est le programme obtenu en entraînant un algorithme sur des données : un ensemble de paramètres appris qui, face à une entrée nouvelle, produit un résultat comme une prédiction, une catégorie, un texte ou une image.
- Quantification
La quantification est une technique qui stocke les paramètres d'un modèle d'IA avec des nombres moins précis, par exemple 8 ou 4 bits au lieu de 16. Le modèle occupe moins de mémoire et répond souvent plus vite, au prix d'une perte de qualité parfois minime.
Mis à jour le