Guardrails

¿Qué son los guardrails?

La palabra viene de las barreras de una carretera: no deciden por dónde vas, pero evitan que te salgas. En IA, los guardrails son todo lo que rodea al modelo para que un error o un mal uso no acabe en un problema: una respuesta inventada, un dato personal filtrado o una acción que nadie autorizó.

Un modelo de lenguaje es probabilístico. Por mucho que lo instruyas, puede equivocarse. Los guardrails parten de esa idea: no se trata de confiar ciegamente en el modelo, sino de limitar el daño cuando falla.

Cómo funciona

Se aplican en varias capas:

1. Antes del modelo. Se revisa lo que entra: temas fuera de alcance, datos sensibles que no deben procesarse, mensajes con intentos de prompt injection.
2. En las instrucciones. El system prompt fija papel, temas permitidos y qué hacer cuando no sabe algo.
3. En los datos. El modelo responde con tu documentación y no con su memoria, con RAG. Si no encuentra la respuesta, no la improvisa.
4. En las acciones. El agente solo tiene los permisos que necesita. Lo delicado requiere confirmación de una persona.
5. Después del modelo. Se revisa lo que sale: formato, datos que no deben aparecer, promesas que no se pueden hacer.

La regla de oro: lo que es grave que ocurra se bloquea fuera del modelo, con código y permisos. Las instrucciones ayudan, pero un jailbreak bien planteado puede saltárselas.

Ejemplo

Una tienda online de bicicletas de Girona pone un asistente para atender a clientes. Define sus guardrails así:

• Solo habla de pedidos, envíos, tallas y devoluciones.
• Puede consultar el estado de un pedido, pero no cambiar la dirección ni hacer reembolsos: eso lo prepara y lo aprueba una persona.
• Nunca da el teléfono ni el correo de otro cliente.
• Si el cliente está muy molesto o pide hablar con alguien, pasa la conversación al equipo.

Ninguna de esas reglas exige un modelo más listo. Exigen un sistema bien montado.

Guardrails en UTIO

Los agentes de UTIO traen varias de estas barreras de serie. La autonomía es gradual: sin IA, preguntar, borrador o automático. El agente arranca en modo borrador, así que una persona revisa antes de que salga nada. En la vertical de soporte, lo que no está en tu documentación no se responde: el agente toma nota y abre un ticket.

El agente de voz avisa al inicio de la llamada de que es una IA, y ese aviso se puede ajustar pero no quitar. Y tú defines cuándo pasa la llamada a tu equipo: por horario, por tema o cuando la persona lo pide.