Problemas comunes de flujo de trabajo

¿Esto suena a tu semana?

No son casos límite. Son las condiciones normales de operación para los equipos que ejecutan actualizaciones de conjuntos de datos Amazon QuickSight en múltiples herramientas. Así es como Control-M gestiona cada uno.

DATOS OBSOLETOS

Tu panel de control de las 8:00 AM se abrió. Los datos de ayer están ahí.

Control-M hace que la actualización de QuickSight dependa del éxito del procesamiento ascendente y luego monitoriza el estado de la actualización. Los usuarios de negocio Obtén los paneles actualizados una vez completado el flujo de trabajo esperado en la upstream, en lugar de depender de horarios desconectados y descubrir información obsoleta una vez que han iniciado las decisiones.

RETRASO DE LA SUBIDA

AWS Glue se extendió mucho. QuickSight se actualizó antes de que llegaran los nuevos datos.

Control-M coordina la dependencia entre el procesamiento ascendente y la actualización del conjunto de datos QuickSight. La actualización comienza solo después de que los trabajos requeridos completen con éxito, evitando que las transformaciones tardías se conviertan en paneles aparentemente actuales construidos sobre datos incompletos.

FALLO DE ACTUALIZACIÓN

La ingestión de SPICE falló de la noche a la mañana. Los usuarios de negocio abrieron paneles obsoletos.

Control-M monitoriza el estado del trabajo, resultados y resultados de QuickSight y utiliza ese estado de ejecución dentro del flujo de trabajo más amplio. Los equipos pueden identificar un fallido de actualización en contexto y evitar que los procesos posteriores dependientes de la finalización exitosa continúen.

RIESGO DE SLA

El panel ejecutivo está previsto para las 7:00 AM. El refresco está fallando.

Control-M conecta el trabajo de QuickSight con el SLA para el flujo de trabajo completo del negocio. Los equipos pueden identificar el riesgo de fecha límite en contexto e intervenir antes de que una actualización tardía del conjunto de datos se convierta en un compromiso de entrega de analítica incumplido.

CONTROL DE REFRESCO

Se realizó un refresco completo cuando solo había que cargar nuevas filas.

Control-M permite a los equipos ejecutar actualizaciones completas o incrementales de conjuntos de datos con QuickSight y coordinarlas con el flujo de trabajo más amplio. Para conjuntos de datos incrementales SPICE soportados, los equipos pueden alinear la ejecución de refrescos con el procesamiento upstream en lugar de gestionarlo como un calendario aislado.

Control-M + Amazon QuickSight

Control-M + Amazon QuickSight

Cobertura de plataformas y sistemas operativos

Amazon QuickSight · Configuración de la región AWS · Segmentación de cuentas AWS · Control-M · Control-M SaaS

Tipos de puestos apoyados

Actualización de conjuntos de datos QuickSight · actualización completa · actualización incremental · ingesta SPICE · selección de ID de conjunto de datos · API de automatización: Trabajo:AWS QuickSight

Monitorización y alerta de SLA

vinculación de puestos SLA · criterios avanzados de programación · dependencias entre flujos de trabajo · monitorización del estado del puesto · gestión de plazos empresariales

Auditoría y controles de acceso

Perfiles de conexión segura · Autenticación de roles AWS IAM · Clave de acceso AWS y secreto · Integración con bóvedas externas · Configuración de cuentas y regiones AWS

Orquestación de extremo a extremo

Un solo flujo de trabajo de producción. Todas las herramientas de la pila.

Control-M orquesta flujos de trabajo en Amazon QuickSight, Amazon S3, AWS Glue, Amazon Redshift, Amazon Athena, transferencias de archivos y servicios en la nube en un único flujo de trabajo, con seguimiento de dependencias, visibilidad SLA y recuperación automatizada en todos ellos.

  • Dependencia entre herramientas: AWS Glue → Amazon Redshift → Amazon QuickSight actualización → transferencia de análisis
  • Disparadores conscientes de datos: llegada de archivos S3, finalización de AWS Glue, finalización de carga de trabajo Redshift, finalización de trabajos aguas arriba

Amazon QuickSight 

actualización completa del conjunto de datos · actualización incremental del conjunto · monitorización del estado de la ingestión · coordinación de dependencias de flujo de trabajo

Amazon S3 

detección de llegada de archivos · dependencia de datos aguas arriba · activación de flujo de trabajo

AWS Glue 

orquestación de trabajos · dependencia de completación · traspaso aguas abajo

Corrimiento al rojo del Amazonas

Coordinación de carga de trabajo · gestión de dependencias · traspaso analítico

Amazon Athena 

coordinación de flujo de trabajo de consultas · dependencia aguas arriba · traspaso aguas abajo

Transferencia gestionada de archivos

movimiento seguro de archivos · monitorización de llegadas · integración de flujo de trabajo

Control-M 

programación avanzada · dependencias complejas · gestión SLA · monitorización centralizada

Coexistencia del flujo de aire

Control-M no reemplaza a los DAGs Airflow. Ejecuta la capa que está encima de ellos.

La objeción está común: "Ya estamos en Airflow." El problema no es lo que hace Airflow, sino lo que ocurre antes y después de que Airflow funcione. Ahí es donde los Pipelines realmente fallan.

El flujo de aire gestiona su DAG. Control-M gestiona todo lo que le rodea.

Manillas de flujo de aire

Orquestación a nivel DAG dentro de la tubería de datos

  • Orquestación de tareas a nivel DAG dentro de data Pipelines
  • Operadores, sensores y dependencias de tareas en Python
  • Grafos de ejecución para trabajos que se ejecutan dentro de tu pipeline
  • Gestiona los intentos dentro de un único contexto DAG

Control-M añade

La capa de coordinación alrededor de tus DAGs

  • Capa de coordinación alrededor de los DAGs — activa el flujo de aire según las condiciones aguas arriba: llegadas de archivos, eventos de API, otras finalizaciones de herramientas
  • Rastrea la contribución de SLA de cada DAG a lo largo de todo el flujo de trabajo de extremo a extremo, no solo su propia rutina
  • Gestiona la recuperación de fallos cuando las dependencias aguas arriba fallan antes incluso de que empiece Airflow
  • Los DAGs existentes no necesitan ser reescritos ni migrados
SUPERVISA LA ANALÍTICA

SUPERVISA LA ANALÍTICA

Saber cuándo los datos de QuickSight están realmente listos.

QuickSight proporciona visibilidad sobre las ingestiones de sus conjuntos de datos, pero el resultado de tu negocio depende de los procesos que se ejecuten antes y después de la actualización. Control-M añade visibilidad a nivel de flujo de trabajo para que los propietarios puedan Ve si la entrega completa de análisis está en marcha:

  • Estado de actualización del conjunto de datos

  • Dependencias aguas arriba y aguas abajo

  • Resultados y producción laboral

  • Visibilidad de flujo de trabajo de extremo a extremo

  • Estado de SLA empresarial

GARANTÍA DE LA SLA

GARANTÍA DE LA SLA

Mantén los paneles de control de negocio alineados con los plazos de decisión.

Una actualización técnicamente exitosa puede llegar demasiado tarde para el proceso de negocio que soporta. Control-M conecta la ejecución de QuickSight a los SLA de flujo de trabajo de extremo a extremo, ayudando a los equipos a Ve los retrasos en contexto y a gestionar los plazos de entrega de los que realmente dependen los usuarios de negocio:

  • Seguimiento de plazos empresariales

  • Visibilidad de dependencias multiplataforma

  • Identificación del riesgo de SLA

  • Monitorización centralizada de flujos de trabajo

  • Recuperación coordinada de fallos

Poner orden en flujos de trabajo complejos

Conoce cómo Control-M ayuda a los equipos a orquestar procesos complejos con mayor visibilidad, coordinación y control.