Alucinación

¿Qué es una alucinación?

El término viene de la psicología, pero en IA significa algo más prosaico: el modelo afirma algo que no es verdad, y lo hace con la misma seguridad con la que afirma lo que sí lo es. Puede ser una fecha, un artículo de una ley que no existe, una cita atribuida a quien nunca la dijo o el horario de una tienda que se ha imaginado.

Uno de los casos más citados ocurrió en 2023 en Estados Unidos: un abogado presentó ante un tribunal un escrito con sentencias que había generado un chatbot. Las sentencias no existían y el abogado fue sancionado.

Las alucinaciones no son un fallo puntual de un modelo concreto. Son una consecuencia de cómo funciona cualquier LLM.

Cómo funciona

Un modelo de lenguaje genera texto eligiendo, token a token, lo que es más probable que venga después. No consulta una base de datos de hechos. Por eso:

• Si el dato no está en lo que aprendió, o aparecía poco, el modelo rellena el hueco con algo verosímil.
• Si la pregunta da algo por supuesto, como «¿a qué hora abre vuestra tienda de Toledo?» cuando no hay tienda en Toledo, el modelo tiende a seguirle la corriente.
• Si la temperatura es alta, aumenta el azar en la elección de palabras, y con él el riesgo.

Lo que más las reduce:

1. Darle las fuentes: con RAG, el modelo responde a partir de tus documentos, no de memoria.
2. Instruirle para que no responda lo que no está en esas fuentes y pueda decir «no lo sé».
3. Revisar lo importante antes de que llegue a un cliente.

Los modelos de razonamiento y el fine-tuning pueden mejorar la precisión en algunas tareas, pero no eliminan el problema.

Ejemplo

Una cadena de ópticas de Murcia prueba un chatbot genérico en su web. Un cliente pregunta si aceptan una mutua concreta y el chatbot responde que sí, con un porcentaje de descuento. Ni la mutua ni el descuento existen en sus acuerdos: el modelo los ha deducido de que «las ópticas suelen trabajar con mutuas».

La óptica cambia de enfoque: carga su lista real de mutuas y condiciones como base de conocimiento e instruye al asistente para que, si una mutua no aparece en la lista, lo diga y pase la consulta al equipo.

Las alucinaciones en UTIO

Los agentes de UTIO responden con tu base de conocimiento. En la vertical de soporte, lo que no está en la documentación no se responde: el agente toma nota y abre un ticket en el CRM. Además, la autonomía es gradual: puedes empezar en modo borrador, con una persona aprobando cada respuesta.

El agente de contenidos aplica la misma idea a lo que publicas: no publica una cifra sin fuente; si no la tiene, para la campaña y te dice qué frase falta respaldar. Así un agente de IA habla en tu nombre sin inventarse lo que no sabe.