El humano en el circuito no es un ajuste. Es una línea trazada por proceso, y trazarla después del build produce un sello que nadie lee.
Contenido6 secciones
El ajuste que no es un ajuste
El humano en el circuito aparece en casi toda propuesta de IA como una casilla. Está activada, el cliente se tranquiliza y la conversación pasa al calendario.
Después el sistema sale, y la cola de revisión resulta tener cuatrocientos elementos al día, y para la tercera semana alguien la vacía en lotes a las seis de la tarde sin leer. La tasa de aprobación es del noventa y nueve por ciento. El rastro de auditoría dice que un humano aprobó cada uno.
Eso es peor que no tener revisión, porque fabrica evidencia de supervisión que no ocurrió.
La línea se mueve por proceso
La única pregunta que produce un límite útil es cuánto cuesta aquí una salida equivocada.
- Reversible, interno, barato de corregir: corre sin supervisión y con monitoreo.
- De cara al cliente, irreversible o caro de deshacer: una persona decide antes de que surta efecto.
Esas dos categorías rara vez coinciden con departamentos, sistemas o jerarquías, y por eso una política de empresa siempre acaba en el lugar equivocado. Un borrador de nota interna y un mensaje saliente a un cliente no son el mismo tipo de error y no pueden compartir regla.
Los cuatro comportamientos a los que esto se reduce en la práctica están en el marco de IA segura.
Qué entra en la especificación
Escrito antes de construir, no después.
Qué ve el revisor. No la salida cruda. La salida más lo necesario para juzgarla: la fuente, una señal de confianza, cómo se resolvieron casos parecidos la semana pasada.
Qué está decidiendo. Una pregunta con pocas respuestas, no una invitación a echar un vistazo.
Qué pasa al rechazar. Vuelta a la cola, escalado a una persona nombrada, o caída al camino manual. Es la parte que más se deja sin definir, y la que decide si la revisión es real: un rechazo sin destino acaba siendo una aprobación.
Medir si funciona
Dos números, ambos incómodos.
Tasa de rechazo. En o cerca de cero, la revisión no está ocurriendo, y el panel no puede distinguir un sistema preciso de una cola sin leer.
Tiempo mediano de decisión. Cuatro segundos no es una decisión.
Cuando ambos se ven mal, la causa habitual no es indisciplina. Es que la línea se trazó demasiado ancha y el revisor se está ahogando. Estrecharla a las salidas que de verdad cargan costo devuelve la atención a las que importan.
Qué se rompe sin la etapa
Dos fallos, opuestos en forma e idénticos en resultado.
Demasiado apretado, y has construido una cola que nadie vacía con honestidad. Demasiado suelto, y el primer error irreversible te enseña dónde debía estar la línea, delante de un cliente.
Ambos vienen de la misma raíz: la línea se trazó después de que el sistema existiera, por quien estuviera en la sala cuando salió mal. Trazada durante Cast, contra el costo medido de una salida equivocada, es una decisión de diseño. Trazada después, es una disculpa con un flujo adjunto.
Dónde se ubica
Cast es la quinta de seis etapas, y su otra mitad es construir contra una especificación congelada en lugar de contra una conversación. Las dos mitades protegen de lo mismo que hunde a la mayoría de los despliegues conversacionales, descrito en por qué falló tu último chatbot. La secuencia completa aplicada a un despliegue está en el protocolo de punta a punta.
Preguntas frecuentes
¿Por qué una política de humano en el circuito para toda la empresa es mala idea?
Porque queda o demasiado estricta para usarse o demasiado laxa para proteger algo, y en la práctica termina siendo ambas en distintos puntos del mismo sistema. Fija la política en todo se revisa y habrás creado una cola que una persona vacía en lotes al final del día sin leer, lo cual es peor que no tener revisión porque fabrica un rastro de auditoría que dice que un humano aprobó. Fíjala en nada se revisa y el primer error irreversible te enseñará dónde debía estar la línea. La línea tiene que moverse por proceso, porque el costo de una salida equivocada se mueve por proceso: una nota interna mal archivada y un mensaje incorrecto a un cliente no son el mismo tipo de error y no pueden compartir política.
¿Qué entra exactamente en la especificación?
Tres cosas, todas concretas. Qué ve el revisor, que no es la salida cruda sino la salida más el contexto necesario para juzgarla: el documento fuente, la señal de confianza, los casos parecidos decididos la semana pasada. Qué se le pide decidir, planteado como una pregunta con pocas respuestas y no como una invitación a mirar algo. Y qué ocurre al rechazar: si el elemento vuelve a la cola, escala a una persona nombrada o cae al camino manual. Ese tercero es el que más se omite y el que determina si el paso de revisión es real, porque un rechazo sin destino definido acaba convirtiéndose en una aprobación.
¿Cómo sabes si la revisión funciona o solo se está sellando?
Midiendo la tasa de rechazo y el tiempo dedicado. Un paso de revisión con una tasa de aprobación en o cerca del cien por cien no es evidencia de que el sistema sea preciso, es evidencia de que nadie lee, y las dos cosas son indistinguibles desde el panel. Lo mismo con el tiempo de revisión: si la decisión mediana tarda cuatro segundos, la decisión no se está tomando. El remedio no suele ser más disciplina sino una cola más pequeña: el revisor se está ahogando porque la línea se trazó demasiado ancha, y estrecharla a las salidas que de verdad cargan costo devuelve la atención a las que importan.
¿El límite se mueve después del go-live?
Debería, en una dirección y sobre evidencia. El camino normal es que una categoría de salida que exigió revisión el primer mes acumule suficientes decisiones correctas como para liberarse a corrida sin supervisión, y esa liberación es un cambio deliberado con fecha, no una deriva. Moverse en la otra dirección, apretar el límite, es más raro y siempre sigue a un incidente. Lo que no debe pasar es movimiento silencioso: un umbral aflojado en silencio para vaciar un atraso es como un sistema acaba sin revisión efectiva mientras su documentación sigue describiendo una, que es el estado real de la mayoría de los despliegues de IA auditados.
