Gestión de la capacidad del motor Spark
Aplicable a: [Motor Spark] Motor Spark acelerado por gluten
La pestaña Capacidad de una instancia del motor Spark ofrece una vista completa del uso general de la CPU y la memoria, lo que le ayuda a supervisar el consumo de recursos de forma eficaz. De forma predeterminada, puede disfrutar de una experiencia de motor sin servidor, que escala automáticamente los recursos en función de las demandas de la carga de trabajo. Además, para cargas de trabajo a gran escala o de alto rendimiento, tiene la flexibilidad de asignar capacidad dedicada, lo que garantiza un rendimiento y una fiabilidad óptimos.
Características clave
- Cada motor Spark puede conectarse a varios grupos de reservas (grupos de nodos con diferentes variantes).
- Cargas de trabajo dedicadas con autoescalado: un entorno dedicado proporciona a los usuarios su propia capacidad informática reservada, lo que garantiza un rendimiento y un control constantes. Cuando se combina con el autoescalado, los usuarios obtienen lo mejor de la fiabilidad y la eficiencia.
- Se aplicarán cuotas tanto para la capacidad dedicada como para la capacidad bajo demanda.
- Para los usuarios que ejecutan con frecuencia trabajos grandes o largos, se recomienda añadir capacidad dedicada para obtener un rendimiento predecible.
Spark sin servidor
- Modelo de coste por uso: los clientes solo pagan por los recursos informáticos consumidos cuando se ejecutan las cargas de trabajo. Esto evita pagar por capacidad ociosa cuando el uso es intermitente o bajo.
- Escalado automático: las plataformas sin servidor escalan automáticamente los recursos hacia arriba o hacia abajo en función de la demanda, lo que elimina la necesidad de aprovisionamiento manual o planificación de la capacidad.
- Sin gestión de infraestructura: la plataforma se encarga de los parches, el escalado y el mantenimiento, lo que reduce los gastos generales operativos.
- Rápida rentabilidad: los clientes pueden implementar rápidamente sin necesidad de planificación previa ni dimensionamiento de la infraestructura.
Ventajas de disponer de capacidad dedicada con autoescalado
-
Rendimiento básico estable: la capacidad dedicada garantiza que las cargas de trabajo con un uso prolongado o continuo dispongan de recursos informáticos garantizados sin competencia.
-
Escalado eficiente para picos de demanda: capas de autoescalado sobre la línea de base dedicada para añadir automáticamente más capacidad cuando se producen picos de uso, lo que garantiza que se mantenga el rendimiento incluso durante aumentos inesperados.
-
Optimización de costes para cargas de trabajo sostenidas: los clientes pagan por los recursos dedicados que utilizan de forma constante, mientras que el autoescalado evita el sobreaprovisionamiento al añadir capacidad adicional solo cuando es necesario.
-
Flexibilidad operativa: los equipos pueden configurar tanto la capacidad mínima dedicada para cargas de trabajo continuas como un límite máximo de autoescalado para controlar el gasto.
-
Mayor fiabilidad: los eventos de escalado se producen automáticamente, lo que reduce el riesgo de tiempo de inactividad y garantiza que los servicios gestionen las cargas de trabajo fluctuantes sin intervención manual.
Antes de empezar
Para disfrutar de esta función, debe utilizar la versión 2.3 (y superiores) de watsonx.data.
Visualización y configuración de los detalles de capacidad
Para ver la pestaña de capacidad, haga lo siguiente:
-
Inicie la sesión en la consola de watsonx.data.
-
Vaya al Administrador de infraestructura. Haga clic en el motor Spark.
-
Haga clic en la pestaña Capacidad. Puede ver las siguientes secciones:
- Métricas de uso general: muestra el total vCPUs y la memoria asignada, junto con los porcentajes de consumo de CPU y memoria en tiempo real.
- Dedicado: Capacidad dedicada para grandes cargas de trabajo. Muestra detalles de los grupos de capacidad configurados, incluyendo vCPU y asignación de memoria, niveles de consumo y opciones para gestionar grupos (añadir, editar, pausar o eliminar).
- Bajo demanda: cuando se crea un motor Spark, este proporciona automáticamente capacidad bajo demanda; esta es la opción sin servidor predeterminada que escala los recursos dinámicamente en función de los requisitos de la carga de trabajo. Muestra el consumo de memoria de tus aplicaciones.
Capacidad del motor Spark bajo demanda
La capacidad bajo demanda es el modelo de ejecución sin servidor predeterminado para los motores Spark, diseñado para proporcionar flexibilidad y simplicidad sin necesidad de planificar los recursos por adelantado. Cuando se crea un motor Spark, se incluye automáticamente capacidad bajo demanda, lo que permite ejecutar cargas de trabajo. Los recursos se aprovisionan dinámicamente en función de los requisitos de la carga de trabajo y se escalan automáticamente hasta el número máximo de núcleos disponibles para la capacidad bajo demanda dentro de un motor Spark, tal y como se ha especificado.
Para actualizar la cuota de capacidad bajo demanda,
En la pestaña Capacidad, haga clic en Bajo demanda. Haga clic en Editar cuota. Un control deslizante horizontal le permite seleccionar la cuota de capacidad deseada (en núcleos) dentro del rango permitido (de 0 a 100 núcleos). Pulse Guardar.
Por ejemplo, cuando se establece la cuota en 40 núcleos, el motor escala automáticamente los recursos hasta ese límite en función de las demandas de la carga de trabajo. Para escalar más allá de 100 núcleos, debe ponerse en contacto con IBM Soporte técnico.
Creación de una capacidad dedicada para su carga de trabajo
La capacidad dedicada ofrece una forma de reservar recursos informáticos para cargas de trabajo de Spark, lo que garantiza un rendimiento predecible y la estabilidad de los costes para trabajos de gran envergadura o de larga duración. A diferencia de la capacidad bajo demanda, que se escala dinámicamente, la capacidad dedicada le permite adjuntar grupos de reservas con configuraciones específicas a su motor Spark.
- Cada motor Spark puede conectarse a hasta tres grupos de capacidad con diferentes características, lo que permite flexibilidad para diversos requisitos de carga de trabajo.
- La capacidad dedicada admite configuraciones mínimas y máximas del grupo de nodos, lo que le permite controlar la asignación de recursos y los límites de escalabilidad.
- Si se conecta capacidad dedicada, las cargas de trabajo se ejecutan en ella de forma predeterminada. Si no hay capacidad dedicada disponible, las cargas de trabajo recurren automáticamente a la capacidad bajo demanda.
Para añadir un grupo de capacidad dedicado para sus cargas de trabajo Spark:
En la pestaña Capacidad, haga clic en la pestaña Dedicado. Haga clic en Añadir grupo de nodos+. Se abrirá la página Editar sabor (dedicado). Proporcione los detalles siguientes:
-
Proporcione un nombre para la configuración en el campo Nombre del tipo de instancia.
-
Seleccione la combinación de memoria requerida en la lista Seleccionar sabor. Las siguientes configuraciones están disponibles.
Configuraciones de memoria Tipo de sabor Sabor Core Memoria (GB) Núcleo utilizable Memoria utilizable (GB) Almacenamiento aleatorio por núcleo (GB) Almacenamiento secundario (GB / Nivel) Objetivo general bx2.16x64 16 64 14 60 50 900 GB / 10 IOPS Objetivo general bx2.32x128 32 128 30 124 50 1600 GB / 10 IOPS Intensivo en memoria mx2.16x128 16 128 14 124 50 900 GB / 10 IOPS Intensivo en memoria mx2.32x256 32 256 30 252 50 1600 GB / 10 IOPS Almacenamiento intensivo mx2.16x128 16 128 14 124 100 1600 GB / 10 IOPS Almacenamiento intensivo mx2.32x256 32 256 30 252 100 3000 GB / 10 IOPS -
Especifique los nodos mínimos y máximos necesarios para el escalado. La capacidad dedicada admite configuraciones mínimas y máximas del grupo de nodos, lo que le permite controlar la asignación de recursos y los límites de escalabilidad.
-
Seleccione la opción Establecer como capacidad predeterminada para elegir esta configuración como la capacidad predeterminada para el motor Spark seleccionado.
-
Pulse Guardar.