Visión general de la alta disponibilidad y la recuperación tras desastre para InstructLab

La alta disponibilidadCapacidad de un servicio o carga de trabajo para soportar fallos y seguir proporcionando capacidad de procesamiento de acuerdo con algún nivel de servicio predefinido. En el caso de los servicios, la disponibilidad se define en el Acuerdo de Nivel de Servicio. La disponibilidad incluye tanto los eventos planificados como los no planificados, como el mantenimiento, los fallos y las catástrofes. (HA) es la capacidad de un servicio de permanecer operativo y accesible ante fallos inesperados. La recuperación de desastresCapacidad de un servicio o carga de trabajo para recuperarse de incidentes graves poco frecuentes y fallos a gran escala, como la interrupción del servicio. Esto incluye un desastre físico que afecte a toda una región, la corrupción de una base de datos o la pérdida de un servicio que contribuya a una carga de trabajo. El impacto supera la capacidad del diseño de alta disponibilidad para gestionarlo. es el proceso de recuperación de la instancia de servicio a un estado de funcionamiento.

Red Hat AI InstructLab es un servicio regional de alta disponibilidad diseñado para estar disponible durante una interrupción zonal. Red Hat AI InstructLab está diseñado para cumplir los Objetivos de Nivel de Servicio(SLO ) con el plan Estándar.

Para obtener más información sobre la región disponible y las ubicaciones de los centros de datos, consulte Disponibilidad de servicios e infraestructuras por ubicación.

Arquitectura de alta disponibilidad

caption-side=bottom"
Red Hat AI InstructLab arquitectura arquitectura Diagrama de arquitectura

Funciones de alta disponibilidad

Red Hat AI InstructLab admite las siguientes funciones de alta disponibilidad:

Funciones HA para Red Hat AI InstructLab
Característica Descripción Consideración
Equilibrio de carga global Cuando falla un nodo o una zona de disponibilidad, el servicio sigue funcionando y las solicitudes de API se enrutan a través de un equilibrador de carga global a los nodos de instancia de HA supervivientes. Los trabajos activos de generación de datos sintéticos y los trabajos activos de alineación de modelos que se ejecutan en nodos dentro de la zona se vuelven a intentar automáticamente en nodos de una zona diferente en caso de fallo. En algunas regiones, debido a limitaciones de capacidad, los nodos de alineación de modelos se despliegan dentro de una zona. Cuando se restablece la zona, los trabajos de alineación de modelos activos se vuelven a intentar automáticamente. Puede haber un corto periodo de tiempo (segundos) entre la interrupción y que el balanceador de carga global reconozca el fallo, durante el cual, las peticiones pueden ser enviadas a la instancia que ha fallado.

Funciones de recuperación en caso de catástrofe

Red Hat AI InstructLab admite las siguientes funciones de recuperación ante desastres:

Funciones DR para Red Hat AI InstructLab
Característica Descripción Consideración
InstructLab sigue un modelo de despliegue regional. En caso de fallo regional, las API podrían dejar de estar disponibles hasta que se restablezca la región. Otras regiones activas en las que se despliegue InstructLab pueden utilizarse para generar datos sintéticos y ejecutar alineaciones de modelos hasta que se restablezca la región.
Object Storage replicación InstructLab persiste todos los modelos SDG y alineados en el cubo de almacenamiento de objetos proporcionado por el cliente. Consulte la documentación del servicio Object Storage para conocer las estrategias de recuperación en caso de catástrofe. Puede utilizar la replicación de cubos para replicar el contenido de la taxonomía, los datos sintéticos generados y los modelos alineados en una región diferente. Para obtener más información, consulte Visión general de la alta disponibilidad y la recuperación tras desastre de IBM Cloud® Object Storage.

Planificación de la RD

Los pasos DR deben practicarse con regularidad. Cuando elabore su plan, tenga en cuenta los siguientes escenarios de fracaso y resoluciones.

Escenarios de RD
Anomalía Resolución
Fallo de hardware (punto único) IBM proporciona una instancia resistente a un único punto de fallo de hardware dentro de una zona. No requiere configuración.
error de zona IBM proporciona una instancia resistente a un fallo de zona. No requiere configuración.
Corrupción de datos Restaure una versión no dañada del contenido del cubo de almacenamiento de objetos del cliente a partir de una copia de seguridad. InstructLab restauración gestionada por el equipo de servicio.
Fracaso regional La alineación de modelos y la generación de datos sintéticos se conmutan a una región viva. InstructLab La restauración corre a cargo del equipo de servicio.

Sus responsabilidades en HA y DR

Es su responsabilidad probar continuamente su plan de HA y DR.

Pueden producirse interrupciones en la conectividad de la red y breves periodos de indisponibilidad de un servicio. Es su responsabilidad asegurarse de que el código fuente de la aplicación incluye lógica de reintento de disponibilidad del cliente para mantener la alta disponibilidad de la aplicación.

Utilice las siguientes listas de comprobación asociadas a cada característica para ayudarle a crear y poner en práctica su plan.

Utilice las siguientes listas de comprobación asociadas a cada característica para ayudarle a crear y poner en práctica su plan.

Replicación del almacenamiento de objetos

Ejemplo de lista de comprobación para la replicación del almacenamiento de objetos

- [ ] Create a primary InstructLab instance in primary region.
- [ ] Create a primary Cloud Object Storage bucket in primary region.
- [ ] Create a secondary InstructLab instance in secondary region.
- [ ] Create a secondary object storage bucket in secondary region.
- [ ] Enable object replication from primary object bucket to secondary object bucket
- [ ] Upload taxonomy to primary object storage bucket and create taxonomy object in primary InstructLab instance
- [ ] Ensure taxonomy object storage bucket object replicates to secondary region
- [ ] Generate training data from taxonomy in primary Instructlab Instance
- [ ] Ensure training data file replicates from primary object storage bucket to secondary object storage bucket
- [ ] Fine tune a model in the InstructLab primary instance
- [ ] Ensure model alignment file replicates from primary object storage bucket to secondary object storage bucket

Para más información sobre la titularidad de responsabilidades entre usted y IBM Cloud para Red Hat AI InstructLab, consulte Sus responsabilidades.

Objetivo de tiempo de recuperación (RTO) y objetivo de punto de recuperación (RPO)

Funciones RTO/RPO para Red Hat AI InstructLab
Característica RTO y RPO
Replicación de almacenamiento de objetos con instancia de copia de seguridad InstructLab RTO = minutos, RPO = casi 0

Gestión de cambios

La gestión de cambios incluye tareas como actualizaciones, cambios de configuración y eliminaciones.

Conceda a los usuarios y procesos las funciones y acciones de IAM con los menores privilegios necesarios para su trabajo. Para más información, consulta ¿Cómo puedo evitar el borrado accidental de servicios?

Considere la posibilidad de crear una copia de seguridad manual de la taxonomía, los datos generados y los modelos alineados antes de actualizar a una nueva versión de Red Hat AI InstructLab.

Cómo se recupera IBM de los fracasos regionales

Si IBM no puede restaurar la instancia de servicio, deberá restaurar el servicio tal y como se describe en la Planificación de la recuperación ante desastres.

Cómo IBM mantiene los servicios

  • Todas las actualizaciones siguen las mejores prácticas de servicio de IBM, incluidos los planes de recuperación y los procesos de reversión.
  • El mantenimiento regular puede causar breves interrupciones, mitigadas por la lógica de reintento de disponibilidad del cliente.
  • Los cambios se despliegan secuencialmente, región por región, y zona por zona dentro de una región. IBM revierte las actualizaciones a la primera señal de un defecto.
  • Los cambios complejos se activan y desactivan con banderas de función para controlar la exposición.
  • Los cambios que afectan a las cargas de trabajo de los clientes se detallan en las notificaciones de IBM Cloud.

Para más información sobre el mantenimiento previsto, anuncios y notas de publicación que afectan a este servicio, consulte los siguientes enlaces.