Habla con un representante sobre las necesidades de tu empresa
Consulta nuestras opciones de soporte de productos
Consultas generales y ubicaciones
ContáctanosUsamos herramientas de IA para ayudar a que nuestro contenido esté disponible en varios idiomas. Debido a que estas traducciones son automatizadas, puede haber algunas variaciones entre la versión en inglés y las versiones traducidas. La versión en inglés de este contenido es la versión oficial. Contacta a BMC para hablar con un experto que pueda responder cualquier pregunta que tengas.
Redirigiendo…
Según la configuración de tu navegador, observamos que tal vez prefieras ver este sitio en otro idioma.
Usamos herramientas de IA para ayudar a que nuestro contenido esté disponible en varios idiomas. Debido a que estas traducciones son automatizadas, puede haber algunas variaciones entre la versión en inglés y las versiones traducidas. La versión en inglés de este contenido es la versión oficial. Contacta a BMC para hablar con un experto que pueda responder cualquier pregunta que tengas.
Orquestación Consciente de Recursos
Antes de añadir más cálculo, Haz cargas de trabajo seguras son ejecutándose en el momento adecuado, en el orden correcto y con la prioridad adecuada.
A medida que crecen las cargas de trabajo de la IA, el consumo de recursos y el valor empresarial no siempre crecen juntos. Algunas cargas de trabajo se vuelven esenciales. Otras siguen siendo experimentales. Sin embargo, pueden acabar recurriendo al mismo conjunto de recursos
Antes de pedir más GPUs, merece la pena preguntarse si el trabajo más importante está primero en acceder a los recursos.
Más capacidad no cambia cómo se son priorizadas las cargas de trabajo. No impide que el trabajo de bajo valor compita con el de alto valor. Y no garantiza que las cargas de trabajo más importantes se ejecuten primero cuando los recursos se vuelven limitados.
Más capacidad cambia cuánto trabajo puede realizarse. No cambia qué trabajo se ejecuta primero.
Esa es una de las razones por las que la coordinación de la carga de trabajo está adquiriendo mayor importancia a medida que crecen los entornos de IA. Los problemas de recursos a veces son problemas de capacidad. También son a veces problemas de priorización.
La orquestación consciente de los recursos está una estrategia para garantizar que los recursos limitados se son dirigidos al trabajo que aporta el mayor valor empresarial.
En lugar de tratar todas las cargas de trabajo por igual, coordina la ejecución en función de factores como la prioridad empresarial, dependencias, niveles de servicio, requisitos de tiempo y disponibilidad de recursos.
Ayuda a responder preguntas como:
RESUMEN RÁPIDO:
La capacidad determina qué puede ejecutarse. La orquestación consciente de recursos ayuda a determinar qué debe ejecutarse.
A medida que crecen las flotas de agentes de IA, más cargas de trabajo empiezan a competir por recursos compartidos. Sin una priorización y programación claras, los costes, la contención y la complejidad operativa tienden a aumentar también.
Para gestionar costes y consumo de recursos, Comienza aquí.
01
Decide qué agentes importan más cuando los recursos se vean limitados. ¿Deberían los servicios de atención al cliente, los flujos de trabajo que impactan los ingresos y los procesos operativos competir por igual con los asistentes de investigación, los proyectos piloto o la elaboración de informes internos?
02
Haz que las dependencias ejecuten las unidades. Por ejemplo, la ingestión de documentos debe completarse antes de que son generados los embeddings, y los embeddings deben actualizarse antes de que comiencen la recuperación posterior y los flujos de trabajo del agente. Una buena secuenciación reduce el procesamiento innecesario y el retrabajo.
03
No todas las cargas de trabajo necesitan acceso sin restricciones a los recursos. Limitar la ejecución concurrente de cargas de menor prioridad durante los periodos de máxima demanda, ayudando a preservar la capacidad de los servicios críticos.
04
Ejecutar cargas de trabajo de menor prioridad durante periodos de menor demanda. Muchos procesos en segundo plano pueden trasladarse a horas de menor demanda sin afectar los resultados empresariales, liberando recursos para trabajos más sensibles al tiempo.
Si alguno de estos patrones te suena, el problema puede ser la coordinación de la carga de trabajo más que la capacidad.
RESUMEN RÁPIDO:
Más utilización no siempre es mejor utilización.
Habla de tu entorno con un experto de Control-M e identifica oportunidades para mejorar la eficiencia de la carga de trabajo, Reduce la contención y coordinar mejor las cargas de trabajo de IA en entornos híbridos y multi-nube.
"¿Son seguro que la parte cara están las GPUs?"
Cuando los costes de las GPU Comienza a subir, la conversación suele girar hacia regiones más baratas, mejores tasas de utilización, capacidad reservada, políticas de autoescalado y eficiencia del modelo.
Todas son merecen la pena perseguirlas. Pero antes de añadir capacidad o perseguir ganancias incrementales en la utilización, echa un buen vistazo a cómo son las cargas de trabajo consumiendo recursos:
La coordinación de la carga de trabajo están a menudo una oportunidad de optimización pasada por alto.
RESUMEN RÁPIDO:
Tu carga de trabajo de mayor coste no es necesariamente tu carga de trabajo de mayor prioridad.
La orquestación consciente de recursos está a menudo discutida junto con la optimización de infraestructura y FinOps. La diferencia radica en la pregunta que cada enfoque está diseñado para responder.
| Enfoque | Pregunta central | En qué se centra |
|---|---|---|
|
Infraestructura |
¿Tenemos suficiente capacidad? |
Asegurarse de que son recursos disponibles. |
|
FinOps |
¿Dónde son producidos los costes? |
Comprender y controlar el gasto. |
|
Orquestación Consciente de Recursos |
¿Cómo deberían las cargas de trabajo consumir los recursos disponibles? |
Asegurarse de que las cargas de trabajo adecuadas Obtén los recursos adecuados en el momento y prioridad adecuados. |
Estos enfoques resuelven problemas diferentes pero complementarios. te pueden tener suficiente capacidad y visibilidad completa sobre los costes, pero aun así tener dificultades con la eficiencia si las cargas de trabajo de IA de alta y baja prioridad compiten por recursos de la misma manera.
La orquestación consciente de los recursos están a menudo menos con adoptar una estrategia completamente nueva y más con evaluar cómo ya se está gestionando el trabajo.
Utiliza esta lista rápida para detectar oportunidades de mejora.
☐ Priorización de la carga de trabajo
Los servicios críticos de IA reciben prioridad cuando los recursos se ven limitados.
☐ Gestión de dependencias
Las cargas de trabajo se ejecutan en el orden correcto, con los procesos posteriores esperando a que se complete el trabajo previo.
☐ Controles de consumo de recursos
Las cargas de trabajo de menor prioridad pueden verse limitadas o retrasadas cuando la demanda se dispara.
☐ Programación y Calendario
Las cargas de trabajo se ejecutan cuando la empresa las necesita, no simplemente porque un programa lo indique.
☐ Ejecución basada en eventos
El trabajo está impulsado por eventos y condiciones empresariales siempre que es posible
La orquestación consciente de recursos está menos una categoría tecnológica separada que un conjunto de prácticas operativas para controlar cómo las cargas de trabajo consumen recursos.
Muchos equipos ya cuentan con plataformas de orquestación como Control-M que pueden ayudar a aplicar prioridades de carga de trabajo, dependencias y políticas de ejecución a medida que las cargas de trabajo de IA crecen.
La pregunta más importante están si tu plataforma actual soporta las prácticas que Haz posible una orquestación con conciencia de recursos.
01
Busque capacidades que ayuden a evitar que las cargas de trabajo compitan innecesariamente por los mismos recursos:
02
Busca capacidades que ayuden a garantizar que el trabajo se ejecute en el orden y momento adecuados:
Planificación consciente de dependencias
Ejecución basada en eventos
Programación basada en calendario y SLA
Optimización de la ventana de ejecución
03
A medida que los flujos de trabajo de IA se distribuyen más, los equipos a menudo necesitan coordinar la actividad entre la nube, los datos y las plataformas operativas:
Balanceo de carga de trabajo en entornos híbridos
Provisión dinámica de recursos en la nube
Escalado elástico de nubes
Gestión automatizada de capacidad
Gestión predictiva de cargas de trabajo
REGLA GENERAL ÚTIL
Si tu plataforma de orquestación puede responder preguntas como:
… Entonces puede que ya tes tengas los bloques de construcción necesarios para implementar una orquestación consciente de recursos.
El objetivo no es controlar directamente las GPUs. Es asegurar que las cargas de trabajo de IA adecuadas funcionen en el momento adecuado, en la secuencia correcta y con la prioridad adecuada.
Conoce cómo los equipos orquestan agentes de IA, flujos de trabajo, Pipelines de datos y procesos empresariales para mejorar la eficiencia y el control operativo.
Gracias por ponerte en contacto. Uno de nuestros expertos se pondrá en contacto con te en breve.
Se cerrará en 3 segundos...