Dinos cómo podemos ayudarte
Ventas y precios
Habla con un representante sobre las necesidades de tu empresa
Ayuda y soporte
Consulta nuestras opciones de soporte de productos
Consultas generales y ubicaciones
Contáctanos
La aprobación no es la historia. Todo lo que la rodea lo es.
Las discusiones sobre la aprobación de un humano en el bucle (HITL) suelen centrarse en si la acción de un agente de IA debe ser aprobada por un humano. En producción, el problema suele están todo lo que ocurre en torno a esa decisión. La propiedad no está clara, las aprobaciones permanecen sin respuesta, se cierran ventanas de despliegue o un flujo de trabajo se estanca porque nadie se da cuenta de que está esperando una respuesta.
A medida que los agentes autónomos de IA asumen más responsabilidades, los flujos de trabajo de aprobación deben hacer más que recoger decisiones humanas.
Por qué las puertas de aprobación humana se convierten en un desastre operativo
A medida que los agentes generan más solicitudes y desencadenan más acciones en toda la empresa, las ineficiencias que antes parecían manejables se convierten rápidamente en limitaciones operativas. Los retrasos en el enrutamiento se convierten en cuellos de botella, las escaladas se vuelven rutinarias y las colas de aprobación crecen más rápido de lo que los equipos pueden seguir el ritmo.
A medida que crece el volumen de aprobaciones, la ejecución del flujo de trabajo depende cada vez más de los tiempos de respuesta humanos, la disponibilidad y la titularidad de las decisiones.
En ese momento, la aprobación humana deja de sentirse como un control y empieza a parecer una dependencia que están esperando todos los flujos de trabajo.
Qué significa la aprobación humana para el diseño de flujos de trabajo
Una decisión de aprobación humana no completa un flujo de trabajo. Pausa uno.
Antes de la decisión, el flujo de trabajo debe saber quién es el propietario de la petición, dónde debe enrutarse y cuánto tiempo puede esperar. Después de la decisión, debe saber qué se ejecuta a continuación, cómo se gestionan son las solicitudes rechazadas y cómo se reanuda la ejecución.
En producción, esas preguntas suelen determinar si el flujo de trabajo tiene éxito.
| Preguntas sobre la decisión de aprobación | Preguntas sobre la ejecución del flujo de trabajo |
|---|---|
|
¿Quién puede aprobarlo? |
¿Qué se ejecuta una vez aprobado? |
|
¿Quién rechazó? |
¿Qué ruta de flujo de trabajo se ejecuta después? |
|
¿Están necesaria la aprobación? |
¿Cuánto puede esperar la ejecución? |
|
Están pruebas? |
¿Cómo se reanuda la ejecución? |
|
¿Quién es el dueño de la decisión? |
¿Qué pasa si nadie responde? |
|
¿Se siguió la política? |
¿Se puede completar el proceso empresarial con éxito? |
A medida que los agentes de IA asumen más responsabilidades, esas preguntas sobre la ejecución del flujo de trabajo dejan de ser casos límite y pasan a formar parte de las operaciones cotidianas.
Regla general: No esperes a que están necesaria una aprobación humana para decidir qué ocurre después. Define la propiedad, el enrutamiento, los caminos de escalada, el comportamiento de timeout, los resultados de ejecución y la captura de pruebas antes de que el flujo de trabajo llegue siquiera al paso de aprobación.
Una vez que las aprobaciones humanas forman parte del camino de ejecución, te dejar de diseñar un proceso de aprobación. te diseñamos cómo funciona el flujo de trabajo en torno a esa aprobación. Ahí es donde entra la orquestación del flujo de trabajo: gestionar el enrutamiento, la espera, la escalada, la lógica de reanudación y las rutas de ejecución que mantienen el proceso en movimiento.
Antes de orquestar o automatizar nada, te necesitas saber qué acciones empresariales requieren supervisión humana.
Resumen rápido:
La aprobación humana determina si debe ocurrir una acción. La orquestación del flujo de trabajo determina si el proceso de negocio puede continuar antes, durante y después de esa decisión.
Donde deben estar las puertas de aprobación humana
Consecuencias de la entrada, no tareas.
Si cada acción empresarial generada por IA requiere aprobación humana, la fatiga por aprobación está inevitable. Lo que importa está si el agente está a punto de hacer algo que podría Crea consecuencias operativas, financieras, para el cliente o de cumplimiento.
Las puertas de aprobación humana pertenecen a los puntos de consecuencia. Antes de colocar una, evalúa la acción empresarial propuesta en función de tres preguntas:
¿Está la acción reversible?
Por ejemplo:
- ¿Redactando un informe? Sí.
- ¿Eliminar datos de clientes? No.
¿La acción Crea un impacto externo?
Por ejemplo:
- ¿Análisis interno? Bajo impacto.
- ¿Comunicación con el cliente? Alto impacto.
¿La acción compromete recursos empresariales?
Por ejemplo:
- ¿Alguna recomendación? No.
- ¿Liberación de pago? Sí.
Las acciones que son difíciles de revertir, que afectan a los clientes, comprometen recursos o Crea exposición regulatoria, son fuertes candidatos para la supervisión humana.
¿Qué deberían aprobar los humanos: acciones o políticas?
Una vez que te has identificado qué acciones empresariales merecen supervisión humana, tú debes decidir si los humanos deben revisar esas acciones individualmente cada vez que ocurren o aprobar las políticas y barreras que las rigen.
Algunas organizaciones requieren aprobación siempre que ocurre una acción de alta consecuencia. Otras aprueban las políticas, umbrales y barreras que determinan cuándo esas acciones pueden ejecutarse automáticamente.
| Aprobación de acciones individuales | Aprobación de políticas, umbrales y barreras de seguridad |
|---|---|
|
Revisar cada solicitud de despliegue |
Aprobar las reglas de despliegue basadas en criterios de pruebas y riesgos |
|
Revisa cada solicitud de reembolso |
Aprobar reembolsos automáticos por debajo de los umbrales definidos |
|
Revisa cada solicitud de acceso |
Aprobar políticas de acceso basadas en roles para permisos estándar |
|
Revisa cada cambio de infraestructura de bajo riesgo |
Aprobar barreras de seguridad que permitan que los cambios predefinidos se ejecuten automáticamente |
A medida que los agentes de IA se vuelven más capaces, la conversación pasa de "¿Debe ejecutarse esta acción específica?" a "¿Bajo qué condiciones debería ejecutarse automáticamente esta categoría de acciones?"
Resumen rápido:
Los programas maduros de humanos en el bucle (HITL) no escalan revisando más acciones. Escalan aprobando mejores políticas, umbrales y barreras de seguridad.
Cuatro principios para diseñar puertas de aprobación humana que escalen
Los equipos que escalan con éxito los flujos de trabajo de aprobación de HITL tienden a seguir cuatro principios de diseño:
01
Deja que los agentes se preparen para la decisión antes de pedir la aprobación.
Una puerta de aprobación bien diseñada se sitúa en el punto de la consecuencia, no en el punto del análisis. Deja que el agente recopile contexto, reúna pruebas y prepare recomendaciones. Pausa el flujo de trabajo solo antes de una acción difícil de revertir.
02
Toma decisiones de ruta por política.
La autorización de aprobación debe estar predefinida antes de que el flujo de trabajo comience a esperar. El objetivo es eliminar la ambigüedad sobre quién es el propietario de la decisión.
03
Diseña para la no respuesta.
Cada flujo de trabajo de aprobación debería responder a una pregunta: ¿Qué ocurre si nadie responde a tiempo? Define políticas de tiempo de espera, rutas de escalada, aprobadores alternativos, SLA de aprobación y gestión de excepciones. Sin estos controles, los flujos de trabajo dependen de la disponibilidad humana.
04
Reanudar la ejecución y preservar pruebas.
Una vez tomada una están decisión, el flujo de trabajo debe dar automáticamente el siguiente paso correcto mientras captura la atribución, el historial de decisiones y la evidencia que lo respalda. La aprobación pasa a formar parte del registro del flujo de trabajo, no a un evento desconectado.
Cómo es un flujo de trabajo de aprobación humana bien diseñado
En un flujo de trabajo de aprobación humana bien diseñado, cada resultado tiene un camino predefinido. Ya sea que un aprobador apruebe, rechace o nunca responda, el flujo de trabajo sigue el camino adecuado según la política.
La decisión humana importa. El flujo de trabajo que rodea esa decisión determina si el proceso se completa con éxito.
Una decisión de aprobación humana debería cambiar el camino del flujo de trabajo, no detenerlo.
Dónde encaja Control-M: De la aprobación a la orquestación
La mayoría de las soluciones con personas en el bucle se centran en recopilar aprobaciones, pero la aprobación humana está solo un control dentro de un flujo de trabajo más amplio.
Control-M ayuda a los equipos a gestionar todo lo que ocurre antes, durante y después de esas aprobaciones humanas dentro de un flujo de trabajo de extremo a extremo. Eso significa que los agentes de IA pueden proponer acciones, los humanos pueden aprobarlas o rechazarlas, y el flujo de trabajo sigue el camino apropiado según la política.
Mejores enfoques para ejecutar la IA de forma fiable en producción
| Requisitos de flujo de trabajo | Capacidad Control-M |
|---|---|
|
Pausar la ejecución antes de acciones de alto riesgo |
Puntos de control de aprobación humana |
|
Restringir quién puede aprobar acciones |
Autorización de aprobación y alertas basadas en roles |
|
Manejar la no respuesta |
Flujos de trabajo de escalado y gestión de tiempos de espera y excepciones configurables |
|
Currículum de los flujos de trabajo tras la aprobación |
Pausa y reanudar ejecución |
|
Desencadenar caminos alternativos tras el rechazo |
Ramificación condicional de flujos de trabajo |
|
Mantener la evidencia de auditoría |
Historial de aprobación, atribución e informes |
|
Hacer cumplir la separación de funciones |
Controles de autorización y gobernanza basados en roles |
¿Qué ocurre con la aprobación humana a medida que los agentes de IA se vuelven más autónomos?
Si los agentes de IA se vuelven más capaces, ¿desaparecerán eventualmente las puertas de aprobación humana? Es difícil decirlo. Qué es más fácil de Ve están cómo ya están cambiando el papel de la aprobación humana.
Lo que parece probable
Los humanos delegarán más autoridad a los agentes de IA.
Actualmente, muchos sistemas de IA recuperan información, generan recomendaciones y apoyan decisiones. Cada vez más, también ejecutan flujos de trabajo, activan acciones y coordinan el trabajo entre aplicaciones. La cuestión están cuánta autoridad estamos dispuestos a darles.
Las aprobaciones humanas serán más selectivas.
Nadie quiere pasar el día revisando interminables solicitudes de aprobación. A medida que los sistemas autónomos maduran, la atención humana se centrará cada vez más en excepciones, decisiones de alto riesgo, violaciones de políticas y acciones que afectan al cliente. Las actividades rutinarias se ejecutarán dentro de límites predefinidos.
La gobernanza pasará de las acciones a los límites.
Hoy en día, muchas discusiones sobre HITL se centran en si una acción específica debe ser aprobada. Los equipos dedicarán menos tiempo a aprobar decisiones individuales y más tiempo a diseñar las políticas que los rigen. Cada vez más, la pregunta será: ¿Bajo qué condiciones debería ejecutarse automáticamente este tipo de acciones?
Qué sigue siendo incierto
Mejores controles pueden Crea más autonomía.
Durante años, la industria ha asumido en gran medida que mejores modelos Crea más autonomía. La realidad puede ser que mejores controles Crea más autonomía. El rendimiento del modelo puede no ser el único factor limitante. Pueden ser los requisitos de cumplimiento, las expectativas de rendición de cuentas, las exigencias de auditoría y la tolerancia al riesgo operativo.
Todavía no sabemos qué ocurre con el volumen de aprobación humana.
Los agentes más inteligentes podrían Reduce las solicitudes de aprobación tomando mejores decisiones y requiriendo menos intervenciones. O el volumen de aprobaciones podría aumentar porque los agentes inician muchas más acciones que están fuera de las políticas existentes en toda la empresa.
Ambos resultados son plausibles. Lo que importa están diseñando flujos de trabajo regulados que puedan operar de forma fiable independientemente de la dirección que tome el futuro.
Lo que no cambiará
A medida que los agentes de IA sean más capaces, seguiremos debatiendo dónde pertenece la aprobación humana y cuánta autoridad deben recibir los agentes. Sin embargo, el desafío operativo seguirá siendo notablemente constante: la propiedad debe ser clara, las escalaciones deben funcionar, los flujos de trabajo necesitan resultados definidos y las vías de ejecución deben continuar cuando se tomen son decisiones.
Los equipos que escalen HITL con éxito no serán los que recojan más aprobaciones. Serán los que diseñen los flujos de trabajo más fiables alrededor de ellos.
La aprobación no será la historia. Todo lo que la rodea lo será.
Orquestar lo que ocurre en torno a la aprobación humana
Las notificaciones de enrutamiento, gestionar rutas de escalada, gestionar los tiempos de espera, reanudar la ejecución y mantener la auditabilidad son parte del mismo flujo de trabajo.
Conoce cómo Control-M ayuda a los equipos a coordinar el enrutamiento, la escalada, la ejecución y la gobernanza en torno a los flujos de trabajo de aprobación humana.
