AI Act (Reglamento europeo de IA)

¿Qué es el AI Act?

Es la primera ley horizontal sobre inteligencia artificial de la Unión Europea. Como es un reglamento, se aplica directamente en todos los Estados miembros, sin necesidad de transponerlo. Afecta tanto a los proveedores, que desarrollan o comercializan un sistema de IA, como a los responsables del despliegue, que lo usan en su actividad profesional. También alcanza a empresas de fuera de la UE si sus sistemas se usan en el mercado europeo.

No regula la tecnología en abstracto, sino sus usos. El mismo modelo puede ser inocuo en un filtro de spam y de alto riesgo en un proceso de selección de personal.

Cómo funciona: los niveles de riesgo

1. Riesgo inaceptable (prohibido). Usos como la puntuación social de personas, la manipulación que explota vulnerabilidades o el reconocimiento de emociones en el trabajo y en centros educativos, salvo excepciones.
2. Alto riesgo. Sistemas que influyen en decisiones importantes sobre personas: empleo, educación, crédito, acceso a servicios esenciales, entre otros. Exigen gestión de riesgos, datos de calidad para limitar el sesgo, documentación, registro de actividad y supervisión humana.
3. Riesgo limitado (transparencia). La persona debe saber que interactúa con una IA, por ejemplo con un chatbot o un agente de voz, salvo que resulte evidente. Los contenidos sintéticos, como las ultrafalsificaciones (deepfakes), deben identificarse como tales.
4. Riesgo mínimo. La mayoría de aplicaciones, como un corrector o un filtro de correo, sin obligaciones nuevas.

Además, los proveedores de modelos de IA de uso general, como los grandes modelos de lenguaje, tienen obligaciones propias de documentación y de respeto a los derechos de autor. Y todas las empresas que usan IA deben procurar que su personal tenga una formación suficiente en la materia.

Ejemplo

Una cadena de gimnasios de Valencia quiere usar IA en dos sitios. Primero, un asistente que contesta llamadas y reserva clases. Es un uso de riesgo limitado: el asistente debe avisar de que es una IA, y los datos personales siguen sujetos al RGPD.

Segundo, una herramienta que filtra currículos de monitores. Eso entra en la categoría de alto riesgo: el gimnasio, como responsable del despliegue, tendrá que seguir las instrucciones del proveedor, asignar supervisión humana con formación y conservar los registros. Ante la duda, lo razonable es consultar con un asesor especializado.

El AI Act en UTIO

Los agentes de atención de UTIO están pensados para ese marco de transparencia. El agente de voz avisa al inicio de la llamada de que es una IA y se presenta como asistente virtual: puedes ajustar el texto del aviso, pero no quitarlo. Las grabaciones, las transcripciones, la memoria del agente y el CRM se guardan en España, con contrato de encargado de tratamiento.

La autonomía es gradual y el agente arranca en modo borrador, lo que facilita la supervisión humana desde el primer día. Lo que no sustituye es tu propio análisis: qué usos das a la IA y en qué nivel de riesgo encaja cada uno depende de tu empresa.