Habla con un representante sobre las necesidades de tu empresa
Consulta nuestras opciones de soporte de productos
Consultas generales y ubicaciones
ContáctanosProblemas comunes de flujo de trabajo
No son casos límite. Son las condiciones normales de operación para equipos que ejecutan cargas de trabajo de flujo de datos OCI en múltiples herramientas. Así es como Control-M gestiona cada uno.
LLEGADA AL ALMACENAMIENTO DE OBJETOS
Control-M mantiene el trabajo de flujo de datos OCI hasta que son satisfechas las dependencias de datos aguas arriba, y luego libera la ejecución Spark en el punto correcto del flujo de trabajo — evitando ejecuciones prematuras, entradas incompletas y reprocesamiento posterior.
DEPENDENCIA ENTRE SERVICIOS
Control-M coordina las dependencias entre la Integración de Datos OCI, el Flujo de Datos OCI y los trabajos circundantes en un solo flujo de trabajo. La finalización exitosa aguas arriba libera la ejecución automática de Spark, eliminando horarios desconectados y traspasos manuales.
RECUPERACIÓN DE FALLOS
Control-M monitoriza el estado del trabajo, resultados y salida del flujo de datos OCI, identifica ejecuciones fallidas y evita que el trabajo dependiente continúe. La recuperación y alerta configurables del flujo de trabajo proporcionan a los operadores un camino controlado hacia la resolución antes de que se produzcan fallos.
CONFIGURACIÓN EN TIEMPO DE EJECUCIÓN
Control-M puede transmitir detalles adicionales de la ejecución de flujo de datos OCI, incluyendo argumentos, parámetros, configuración, formas de driver y ejecutor, y recuento de ejecutores. Los equipos pueden operacionalizar los requisitos cambiantes en tiempo de ejecución sin separar la ejecución de Spark de su flujo de trabajo de extremo a extremo.
RIESGO DE SLA
Control-M conecta el trabajo de flujo de datos OCI con el SLA de flujo de trabajo de extremo a extremo, proporcionando monitorización centralizada y alertas sobre plazos críticos. Los equipos Ve que el Spark se ejecuta en el contexto de procesos de negocio y pueden intervenir antes de que se están perdidos en la entrega posterior.
DATOS DE INTEGRACIÓN
|
workload.types |
Aplicaciones Apache Spark · procesamiento por lotes · Spark SQL · PySpark · Java/Scala Spark · cargas de trabajo de aprendizaje automático · Streaming de Spark |
|
trigger.type |
Finalización de trabajos aguas arriba · Llegada de datos en almacenamiento de objetos · Flujo de trabajo impulsado por API · programa temporal · Evento Control-M · condición de dependencia |
|
cross_tool.deps |
Tarea de integración de datos OCI · Entrega de almacenamiento de objetos OCI · DAG Apache Airflow · trabajo de base de datos · llamada API REST · trabajo de análisis downstream |
|
cloud.platforms |
Infraestructura Oracle Cloud · Flujo de Datos OCI · Almacenamiento de Objetos OCI · Integración de Datos OCI · Control-M SaaS |
|
error_handling |
sondeo de estado · tolerancia a fallos · prevención en cascada aguas abajo · recuperación de flujo de trabajo · monitorización SLA · alertas Control-M |
|
Rendimiento |
conjuntos de datos a gran escala · procesamiento Spark sin servidor · cargas de trabajo por lotes · streaming de Spark de larga duración · ejecutores configurables · formas configurables de controladores y ejecutores |
|
Observabilidad |
estado de ejecución · información de ejecución · resultados de trabajos · salida de trabajo · monitorización de flujo de trabajo de extremo a extremo · visibilidad SLA · Contexto de auditoría Control-M |
Orquestación de extremo a extremo
Control-M orquesta flujos de trabajo a través de flujo de datos OCI, integración de datos OCI, almacenamiento de objetos OCI, flujo aéreo, bases de datos y servicios en la nube en un solo flujo de trabajos — con seguimiento de dependencias, visibilidad SLA y recuperación automatizada en todos ellos.
|
Flujo de datos OCI |
disparar Spark runs · pasar la configuración de run · supervisar el estado · recuperar información de la ejecución · coordenadas SLAs |
|
Integración de Datos OCI |
activar tareas de datos · coordinar transformaciones aguas arriba · gestionar dependencias de flujos de trabajo |
|
Almacenamiento de objetos OCI |
Llegada de datos de coordenadas · artefactos de aplicación · Entradas y salidas de chispa |
|
Apache Airflow |
activar DAGs · coordinar la completación de DAGs · conectar DAGs a dependencias empresariales |
|
Bases de datos |
Extracción de coordenadas · procesamiento de chispas de compuerta · disparar cargas aguas abajo |
|
REST APIs |
invocar servicios · coordinar dependencias impulsadas por API · conectar aplicaciones externas |
Coexistencia del flujo de aire
La objeción está común: "Ya estamos en Airflow." El problema no es lo que hace Airflow, sino lo que ocurre antes y después de que Airflow funcione. Ahí es donde Pipelines realmente fallan.
El flujo de aire gestiona su DAG. Control-M gestiona todo lo que le rodea.
Manillas de flujo de aire
Control-M añade
supervisa Pipelines
OCI Data Flow proporciona monitorización nativa a nivel de ejecución, pero las Pipelines de producción rara vez se detienen en Spark. Control-M añade una vista centralizada a lo largo del flujo de trabajo circundante, conectando la ejecución de Data Flow con dependencias aguas arriba, trabajos aguas abajo y resultados operativos:
Estado de la ejecución del flujo de datos OCI
Resultados y producción laboral
Dependencias aguas arriba y aguas abajo
Estado del flujo de trabajo de extremo a extremo
Alertas operativas centralizadas
GARANTÍA DE LA SLA
Una ejecución exitosa de Spark puede llegar demasiado tarde para el proceso que depende de él. Control-M permite a los equipos adjuntar trabajos SLA a cargas de trabajo OCI Data Flow y coordinar la ejecución con dependencias aguas arriba y descendente para mantener los Pipelines críticos en programa:
Monitorización SLA para el flujo de datos
Coordinación de dependencias entre trabajos
Criterios avanzados de programación
Estado centralizado del flujo de trabajo
Ejecución controlada aguas abajo
Conoce cómo Control-M ayuda a los equipos a orquestar procesos complejos con mayor visibilidad, coordinación y control.