Guardrails

Qu’est-ce que les guardrails ?

Le mot désigne en anglais les glissières de sécurité d’une route : elles ne choisissent pas votre trajet, mais elles vous empêchent de sortir de la chaussée. En IA, les guardrails regroupent tout ce qui entoure le modèle pour qu’une erreur ou un abus ne tourne pas au problème : une réponse inventée, une donnée personnelle qui fuite, une action que personne n’a autorisée.

Un modèle de langage est probabiliste. Si soignées que soient ses consignes, il peut se tromper. Les guardrails partent de ce constat : il ne s’agit pas de faire aveuglément confiance au modèle, mais de limiter les dégâts quand il se trompe.

Comment ça marche

Ils s’appliquent à plusieurs niveaux :

1. En amont du modèle. On contrôle ce qui entre : sujets hors périmètre, données sensibles à ne pas traiter, messages contenant des tentatives d’injection de prompt.
2. Dans les consignes. Le system prompt fixe le rôle, les sujets autorisés et la conduite à tenir quand le modèle ne sait pas.
3. Dans les données. Le modèle répond avec votre documentation, pas de mémoire, grâce au RAG. S’il ne trouve pas la réponse, il ne l’improvise pas.
4. Dans les actions. L’agent n’a que les droits dont il a besoin. Ce qui est sensible passe par la validation d’une personne.
5. En aval du modèle. On vérifie ce qui sort : format, données qui ne doivent pas apparaître, promesses impossibles à tenir.

La règle d’or : ce qu’il serait grave de voir arriver se bloque hors du modèle, par le code et les droits d’accès. Les consignes aident, mais un jailbreak bien mené peut les contourner.

Exemple

Une boutique en ligne de vélos à Grenoble installe un assistant pour ses clients. Elle définit ses garde-fous ainsi :

• Il ne parle que de commandes, de livraisons, de tailles et de retours.
• Il peut consulter l’état d’une commande, mais pas modifier l’adresse ni rembourser : cela, il le prépare et une personne valide.
• Il ne donne jamais le téléphone ou l’e-mail d’un autre client.
• Si le client est très mécontent ou demande à parler à quelqu’un, il transmet la conversation à l’équipe.

Aucune de ces règles n’exige un modèle plus intelligent. Elles exigent un système bien conçu.

Les guardrails chez UTIO

Les agents UTIO intègrent plusieurs de ces garde-fous d’origine. L’autonomie est graduelle : sans IA, demander, brouillon ou automatique. L’agent démarre en mode brouillon, donc une personne relit avant que quoi que ce soit parte. Dans la verticale support, ce qui n’est pas dans votre documentation ne reçoit pas de réponse : l’agent prend note et ouvre un ticket.

L’agent vocal annonce dès le début de l’appel qu’il est une IA ; le texte de l’annonce s’ajuste, mais ne se retire pas. Et c’est vous qui décidez quand l’appel passe à votre équipe : selon l’horaire, le sujet, ou quand la personne le demande.