Elige el LLM adecuado: Por qué la flexibilidad de la IA es importante para la transformación de mainframes

A medida que la inteligencia artificial generativa (GenAI) ocupa el centro de la innovación empresarial, muchos líderes son preguntan cómo llevar su potencia a sus entornos mainframe. Algunos asumen que es tan sencillo como conectar un modelo de lenguaje grande (LLM) de propósito general como ChatGPT, pero este enfoque simplificado a menudo falla. El mainframe no es el problema; de hecho, plataformas modernas como el recientemente anunciado IBM^® z17™ son plenamente capaces de soportar la transformación de la IA. Lo que importa están cómo te integrar la IA y, más importante aún, qué modelo de IA te elegir.

Construir o afinar LLMs desde cero es caro, lleva mucho tiempo y es altamente especializado. Según un informe de Forrester, "El estado de la GenAI en los Servicios Financieros", las organizaciones de servicios financieros dependen abrumadoramente de la tecnología y de los socios de servicios para ofrecer soluciones GenAI. Para tener éxito, las empresas necesitan más que chatbots estándar: necesitan flexibilidad para seleccionar el LLM o el modelo de lenguaje pequeño (SLM) adecuado para cada tarea, y la capacidad de adaptarse a medida que evolucionan los requisitos. Por eso, una biblioteca de LLM curada y una estrategia de traer tu propio LLM (BYOLLM) se está convirtiendo rápidamente en esencia para la transformación de mainframes.

Sin embargo, como ocurre con cualquier tecnología transformadora, hay una pregunta crítica: ¿Cuál es la forma correcta de implementar la IA en entornos mainframe?

Es fácil asumir que seleccionar un modelo de IA están una decisión única y listo: simplemente elige uno, intégralo y deja que haga su magia. Pero la IA no es una solución única para todos, y una elección incorrecta puede provocar ineficiencias, problemas de cumplimiento, vinculación de proveedores e incluso riesgos de seguridad. En cambio, las organizaciones necesitan flexibilidad: la capacidad de elegir, adaptarse y controlar la IA de una manera que se adapte a sus necesidades empresariales específicas.

Aquí están donde BMC AMI Assistant está ayudando a las empresas a superar la adopción rígida de IA. Al ofrecer una biblioteca de modelos LLM seleccionada junto con una opción BYOLLM, permite a las organizaciones adaptar su estrategia de IA a sus cargas de trabajo específicas, requisitos de seguridad y políticas de gobernanza. Pero para entender por qué este nivel de flexibilidad en IA está tan importante, primero necesitamos replantear qué significa realmente la flexibilidad en IA en la empresa.

Qué significa realmente la flexibilidad en IA y por qué es importante

La flexibilidad de la IA no consiste solo en tener acceso a diferentes modelos, sino en garantizar que las decisiones de IA estén alineadas con las prioridades empresariales. Significa poder ajustar las estrategias de IA a medida que cambian las necesidades y requisitos del negocio, así como cómo evolucionan la tecnología, las políticas de seguridad y los requisitos de cumplimiento.

Imagina una empresa que integra un modelo de IA en sus operaciones de mainframe, solo para descubrir meses después que no cumple con los nuevos requisitos regulatorios. O considera una empresa que necesita IA para procesar cargas de trabajo críticas, pero la latencia está demasiado alta, causando ineficiencias que afectan a los resultados.

No son riesgos hipotéticos; son desafíos reales a los que se enfrentan las empresas cuando las estrategias de IA carecen de flexibilidad. La clave para evitar estos obstáculos está teniendo elección, adaptabilidad y control:

• Elección: La capacidad de seleccionar una variedad de modelos de IA que mejor se adapten a las tareas, ya sea para explicación de código, depuración de código, análisis de causas raíz de problemas del sistema o automatización de respuestas.
• Adaptabilidad: La capacidad de cambiar modelos de IA a medida que cambian las necesidades empresariales, las leyes de cumplimiento y las restricciones operativas.
• Control: La capacidad de determinar dónde son alojados los modelos de IA, cómo interactúan con los datos y cómo los resultados se alinean con las políticas de gobernanza empresarial.

Teniendo en cuenta estos factores, las empresas deben decidir cuidadosamente qué modelo de IA utilizar para cada tarea. Y eso comienza por entender las diferencias entre LLMs y SLMs.

LLM vs. SLM: Elegir el modelo de IA adecuado para la tarea adecuada

Hay una razón por la que los líderes de IA no dependen solo de un modelo: diferentes tareas requieren capacidades distintas. La elección entre LLMs y SLMs se reduce al equilibrio entre una comprensión contextual potente y una eficiencia ligera.

Imagina un banco global que necesita asistencia impulsada por IA para sus aplicaciones mainframe. Si quiere razonamientos contextuales amplios, como explicar código COBOL heredado a un nuevo desarrollador, probablemente recurriría a un LLM, un modelo entrenado con vastos conjuntos de datos y capaz de entender relaciones a través de diversas fuentes.

Pero si ese mismo banco necesita un modelo de IA altamente específico y estrictamente controlado que genere respuestas basadas únicamente en datos propietarios de la empresa, puede utilizar en su lugar un SLM, un pequeño modelo de IA diseñado para la velocidad, la seguridad y la precisión.

Los LLM son herramientas poderosas para escenarios que exigen una inteligencia amplia y generalizada. Brillan cuando la IA necesita:

• Interpreta y explica relaciones complejas a través de vastos conjuntos de datos.
• Analizar grandes cantidades de información no estructurada para identificar tendencias y patrones.
• Apoyar múltiples casos de utiliza en diferentes funciones empresariales, como la automatización de atención al cliente o la resolución de problemas de TI.

Por ejemplo, en entornos mainframe, un LLM puede analizar bases de código, Detecta ineficiencias y proporcionar recomendaciones impulsadas por IA para solucionar problemas del sistema mainframe. Pero aunque los LLM son increíblemente versátiles, no siempre son los mejores para cargas de trabajo de alta seguridad y conformidad.

Los SLM, en cambio, destacan cuando las organizaciones requieren modelos de IA altamente específicos adaptados a casos de utiliza precisos. A diferencia de los LLM, que son diseñados para una generalización amplia, los SLM se centran en dominios muy específicos con un control estricto sobre los datos y los resultados. Son más adecuados para escenarios donde:

• Las organizaciones requieren modelos de IA que son enfocados estrechamente en casos de utiliza muy específicos, asegurando resultados precisos alineados con sus requisitos empresariales únicos.
• Se está necesario un procesamiento de baja latencia, como en entornos de transacciones de alta velocidad.
• Los resultados de la IA deben estar estrictamente regulados y basarse estrictamente en fuentes de datos internas y propietarias.
• La eficiencia y la gestión de sus costes son las principales prioridades. Los SLM requieren una menor huella de hardware y menos recursos computacionales, lo que los hace ideales para este tipo de entornos.

Por ejemplo, una organización sanitaria que maneja datos sensibles de pacientes probablemente preferiría un SLM para documentación impulsada por IA en lugar de exponer información confidencial a un LLM amplio.

Resultados recientes de la Encuesta BMC sobre Mainframes indican que el 64 por ciento de las empresas identificó el cumplimiento y la seguridad como su máxima prioridad en mainframes.  Esto pone de manifiesto la necesidad de SLM al desplegar IA en entornos altamente regulados.

Entender cuándo desplegar un LLM frente a uno SLM es solo el primer paso; las empresas también necesitan la flexibilidad para elegir de dónde provienen sus modelos de IA. Ahí es donde entra el enfoque curado de LLM Library y BYOLLM de BMC AMI Assistant.

Flexibilidad de IA con biblioteca LLM + BYOLM: El poder de la elección

Seleccionar el modelo de IA adecuado están solo una parte de la ecuación. La siguiente pregunta están: ¿Qué corpus de texto se utilizó para entrenar el modelo de IA y qué sesgo podría contener ese entrenamiento?

Las empresas se benefician de modelos de IA afinados que son listos para utilizar desde el principio. Otras necesitan entrenar modelos de IA con sus propios datos propietarios para mantener el control sobre la seguridad, el cumplimiento y la gobernanza.

BMC AMI Assistant ofrece ambas opciones:

• Biblioteca de LLM seleccionada: Una colección de modelos de IA que son probados y evaluados para funcionar mejor con BMC AMI Assistant, permitiendo a los equipos desplegar IA sin la carga de construir modelos desde cero. Una capacidad fundamental es la facilidad de despliegue de LLMs desde la consola de gestión de IA de la plataforma BMC AMI, asegurando una integración fluida y eficiencia operativa.
• Lleva tu propio LLM (BYOLLM): La flexibilidad para integrar cualquier modelo de IA que mejor se adapte a las necesidades, políticas, normativas y casos de utiliza de una organización, asegurando un control total sobre la seguridad, la privacidad de los datos y los métodos de entrenamiento de IA.

Para muchas organizaciones, el mejor enfoque están híbrido: aprovechar LLMs seleccionados para una adopción rápida de IA mientras integran BYOLLM para alinearlo con sus políticas corporativas de IA. Este enfoque híbrido garantiza que las organizaciones puedan adaptar las estrategias de IA a sus casos utiliza específicos, políticas empresariales y requisitos de seguridad. Con la libertad de elegir el modelo adecuado para la tarea adecuada, los equipos obtén mayor control, mejor alineación con las políticas de IA organizacional y la capacidad de optimiza IA para la transformación de mainframes.

Adaptabilidad: Mantenerse al ritmo del cambio

La adaptabilidad significa más que cambiar entre modelos: se trata de alinear las estrategias de IA con la constante evolución de las necesidades empresariales, las exigencias de seguridad y los estándares de cumplimiento. En entornos mainframe donde las cargas de trabajo son críticas para la misión, la adaptabilidad garantiza que la IA pueda mantenerse al día sin introducir riesgos. A medida que cambian los entornos, también deben hacerlo los modelos de IA que los soportan.

Por eso la flexibilidad debe incluir la posibilidad de cambiar modelos, reciclarse donde sea necesario y adoptar LLMs y SLMs más nuevos o más especializados con el tiempo. Con una arquitectura adaptable, las organizaciones pueden ajustar sus estrategias de IA sin reconstruir sus sistemas ni comprometer el rendimiento. BMC AMI Assistant apoya esta agilidad de modelos, asegurando que las empresas se mantengan resilientes sin importar cómo cambien sus políticas, requisitos o casos de utiliza.

¿Están un LLM a prueba de futuro?

El modelo de IA elegido hoy puede no responder a los retos de negocio, cumplimiento y seguridad del mañana. Aquí están donde una biblioteca de LLM seleccionada se vuelve invaluable. Con BMC AMI Assistant, las organizaciones pueden aprovechar rápidamente los últimos avances en tecnología LLM, asegurando que siempre son aprovechan los modelos más avanzados y capaces disponibles. Al mismo tiempo, mantienen la flexibilidad para adaptarse: adoptando nuevos LLMs cuando cambian sus necesidades empresariales, en lugar de quedarse atadas a un único modelo de IA estático.

Esta capacidad para ajustar dinámicamente las estrategias de IA garantiza que las empresas sigan siendo ágiles, cumplientes y a la vanguardia en una era en la que las necesidades empresariales cambian y la tecnología evoluciona a un ritmo sin precedentes.

Reflexiones finales: El futuro de la IA para la transformación de mainframes

La IA está moldeando activamente cómo las organizaciones gestionan, transforman y optimizan sus entornos mainframe. Sin embargo, el éxito en la adopción de la IA no se reduce solo a la implementación; se trata de garantizar que la IA siga siendo lo suficientemente flexible para evolucionar junto con el negocio.

BMC AMI Assistant ofrece la adaptabilidad y flexibilidad necesarias para navegar en un entorno en constante cambio. Con la posibilidad de elegir entre LLMs seleccionados y BYOLLM, las organizaciones obtén la ventaja estratégica de seleccionar el modelo de IA adecuado para sus necesidades, tanto hoy como en el futuro.

A medida que la IA continúe avanzando, las empresas que adopten la flexibilidad serán las mejor posicionadas para el éxito a largo plazo. La cuestión ya no están si utilizar la IA en la transformación de mainframes, sino si la estrategia de IA existente está diseñada para durar.

Para conoce más sobre las nuevas capacidades de BMC AMI Assistant —incluyendo la biblioteca curada de LLM y BYOLLM— lee "Transforming the Mainframe's Future with AI-Powered Intelligence", del vicepresidente de gestión de producto de BMC y diseña Matt Whitbourne. te también puedes descubrir cómo todo el portafolio AMI de BMC puede acelera tu transformación en mainframe visitando la página web de BMC AMI.

Estas publicaciones son mías y no representan necesariamente la posición, estrategias u opinión de BMC.