· 7 min de lectura · IA para Empresas
Un revisor que nunca dice no es un sello, no una supervisión. Los tres niveles de supervisión humana de la IA y cómo elegir el que toca a cada proceso.
Pusiste a una persona a revisar lo que hace el agente y te quedaste tranquilo. Es lo que hace todo el mundo y lo que pide cualquier auditoría: que haya un humano detrás. El problema es que la supervisión humana de la IA, tal y como está montada en casi todas las empresas, consiste en ver pasar decisiones que casi siempre están bien y darle al botón de aceptar. Eso no es supervisión. Es una firma.
Y no lo decimos nosotros: el reglamento europeo lo da por hecho y obliga a diseñar los sistemas para que quien supervisa sea consciente de que va a confiar demasiado. Tiene nombre técnico, está en el texto legal, y hay un experimento de este año que lo mide.
El artículo 14 del Reglamento (UE) 2024/1689 es la referencia, y conviene leerlo aunque no te aplique. Dice que quien supervisa tiene que poder entender las capacidades y las limitaciones del sistema; ser consciente de la tendencia a confiar automáticamente o en exceso en los resultados, lo que el texto llama literalmente «sesgo de automatización»; interpretarlos bien; decidir en cualquier situación concreta descartar, invalidar o revertir esa salida; e intervenir o parar el sistema pulsando un botón de parada.
Ninguno de esos cinco puntos dice «que alguien lo mire». Los cinco piden formación, contexto y autoridad para decir que no.
La parte honesta: si tienes un agente que lee facturas o graba pedidos en el ERP, ese artículo probablemente no te obliga, porque tu caso no entra en la lista de alto riesgo, como ya vimos al hablar de si es legal procesar facturas con IA. Y aun así merece la pena usarlo: es la mejor lista de comprobación de supervisión que existe, la ha escrito la Unión Europea y es gratis.
En España hay además una ley en camino: el Consejo de Ministros aprobó el 26 de mayo de 2026 el proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, y el ministerio la presentó poniendo el foco justo ahí, en la obligatoriedad de la supervisión humana. Está en trámite en el Congreso desde junio, así que aún no es ley: si alguien te vende algo «para cumplir con la ley española de IA», estás hablando con un comercial.
El portal de datos abiertos del Gobierno publicó en mayo una explicación de los tres mecanismos de supervisión que sirve para decidir. Traducida a lo que pasa en tu empresa:
Human in the loop. La persona está dentro del ciclo: el sistema propone y no pasa nada hasta que alguien valida. El agente lee el pedido, monta las líneas y las deja en borrador; administración confirma. Es el modelo conservador, y el que toca cuando la decisión tiene consecuencias.
Human on the loop. El sistema actúa solo y alguien vigila en tiempo real, con capacidad de intervenir. El agente graba los pedidos que casan sin dudas y el responsable mira un panel de excepciones. Es el que da el ahorro.
Human in command. La supervisión no es caso por caso, es de gobierno: alguien decide para qué se puede usar el sistema, qué límites tiene, qué nivel de error se acepta y cuándo se apaga. Es la que nadie escribe y la que hace falta cuando algo sale mal un martes a las ocho de la tarde.
Los proyectos que fracasan casi nunca eligen mal el modelo: no eligen ninguno, y acaban en un in the loop mal hecho, con un revisor de trescientas líneas al día que aprueba en bloque.
En junio de 2026, Goulas, Megalokonomou y Sotirakopoulos publicaron en PNAS Nexus un experimento aleatorizado con 1.339 docentes en activo. A todos les dieron el mismo ejercicio con la misma nota, un 5, deliberadamente equivocada. Al azar variaban quién la había puesto (un colega o un sistema de IA) y en qué dirección estaba el error.
El resultado no es «los humanos se fían demasiado de la IA». Es asimétrico, que es peor:
La mediación apunta a la causa: quienes atribuían más capacidad al sistema eran los que menos lo corregían, y eso explica más de la mitad del efecto.
Traducido a tu almacén: cuando el agente dice no —esta referencia no existe, esta factura no cuadra, este pedido no se puede grabar—, tu revisor le da la razón más de lo que se la daría a un compañero. Y ese «no» es el que cuesta un cliente, porque el cliente que se queda sin su pedido no aparece en ninguna métrica del ERP.
Aviso de rigor: el estudio va de profesores corrigiendo exámenes en Grecia, no de administrativos grabando albaranes. El hallazgo es la dirección del sesgo; el 22 % es de ese contexto, no del tuyo.
No hay respuesta única, hay tres preguntas por proceso, y se responden en media hora sin comprar nada:
Con eso salen decisiones concretas: el cotejo de líneas que casan al céntimo va on the loop; el precio que se sale de la tarifa pactada se queda in the loop siempre; qué documentos valen es in command, y lo firma una persona con nombre, no un ajuste de configuración.
Dos cosas hacen que esto funcione. La calibración: una bandeja ordenada por confianza solo sirve si esa confianza significa algo, y eso se mide, como vimos al digitalizar partes de trabajo. Y que el sistema reconozca cuándo no está seguro, que es la pregunta que más rápido separa a los proveedores serios. Sin las dos, la bandeja de revisión de un procesador de documentos es una bandeja de entrada con otro nombre.
No escala: una persona revisando bien aguanta decenas de decisiones al día, no cientos, y a partir de ahí es un cuello de botella que además firma. Tampoco arregla un modelo mal calibrado, ni un maestro de artículos sucio, ni un proceso que nadie ha definido. Y un botón de parada que solo puede pulsar quien no está en el turno de tarde es decoración.
Supervisar bien no es revisar más. Es revisar menos cosas y las que importan, y que quien revisa tenga autoridad para llevarle la contraria a la máquina sin pedir permiso.
¿Quieres saber qué decisiones de tu operativa se pueden automatizar del todo y cuáles necesitan una persona delante? Es lo que sale de una auditoría gratuita de procesos: media hora, tus casos reales y un nivel asignado a cada uno.
Transparencia: este artículo contiene partes generadas con un agente de IA de MALDITAIA y se ha publicado con aprobación humana. Predicamos con el ejemplo.
Volver al blog de MalditaIA · Solicita una consultoría gratuita