Despliegue de Elastic Stable Diffusion en Alibaba Cloud Serverless Kubernetes

Este artículo explora el despliegue de un servicio de Elastic Stable Diffusion de clase empresarial utilizando Serverless Kubernetes (ASK) y Knative de Alibaba Cloud. Stable Diffusion, un potente modelo de IA para la generación de imágenes, combinado con la elasticidad de la arquitectura sin servidor, ofrece una solución escalable y eficiente para las empresas. Al aprovechar ASK y Knative, podemos crear un servicio de generación de imágenes de IA altamente receptivo y rentable que se escala automáticamente según la demanda.

Para configurar el entorno, necesitamos completar varios pasos cruciales: 1. Crear un Gateway Nativo en la Nube MSE: Esto implica iniciar sesión en la consola de Microservices Engine (MSE) y activar los gateways nativos en la nube de MSE. 2. Autorizar a MSE para Acceder a ECI: Este paso asegura que MSE pueda interactuar con Elastic Container Instance (ECI). 3. Crear un Clúster Pro de ASK: Usaremos la consola de ACK para crear un clúster de Kubernetes sin servidor, seleccionando la edición Profesional para características mejoradas. Las configuraciones clave incluyen establecer el nombre del clúster, la región (recomendado: Hong Kong, China) y habilitar Knative. Estos pasos preparatorios sientan las bases para nuestro servicio de Elastic Stable Diffusion, asegurando que tengamos la infraestructura y los permisos necesarios en su lugar.

Desplegar el servicio de Stable Diffusion implica crear un Servicio Knative dentro de nuestro clúster ASK. Aquí está cómo hacerlo: 1. Navegar a la página de Knative en el panel del clúster. 2. Crear un nuevo Servicio a partir de una plantilla, utilizando una configuración YAML proporcionada. 3. El YAML define un servicio llamado 'knative-sd-demo' con anotaciones específicas para afinidad y escalado automático. 4. La imagen del contenedor utilizada es una configuración de Stable Diffusion preconfigurada. 5. Después de la creación, espera a que el estado del servicio cambie a 'Creado'. Este despliegue aprovecha las capacidades sin servidor de Knative, permitiendo que el servicio de Stable Diffusion se escale automáticamente según la demanda.

Para acceder y probar el servicio de Stable Diffusion, necesitamos crear un generador de tráfico y exponerlo: 1. Desplegar un 'portal-server' utilizando una configuración YAML proporcionada. Esto sirve tanto como generador de carga como interfaz web para el servicio de Stable Diffusion. 2. El despliegue crea un servicio LoadBalancer, proporcionando una dirección IP externa. 3. Acceder a la interfaz web utilizando la dirección IP del LoadBalancer. 4. Usar la interfaz para generar imágenes proporcionando indicaciones al modelo de Stable Diffusion. Esta configuración nos permite interactuar con el servicio de Stable Diffusion y prepararnos para pruebas de estrés.

Para verificar la elasticidad de nuestro clúster ASK y el servicio de Stable Diffusion, realizaremos pruebas de estrés: 1. Usar la función de prueba de estrés en la interfaz web. 2. Establecer la concurrencia en 5 y el número total de solicitudes en 20. 3. Iniciar la prueba de estrés y observar los resultados. 4. Durante la prueba, monitorear la creación de nuevos pods para manejar la carga aumentada. 5. Observar las imágenes generadas mostradas en la página. Esta prueba de estrés demuestra la capacidad del clúster ASK para escalar automáticamente el servicio de Stable Diffusion en respuesta a la demanda aumentada, mostrando el poder de la arquitectura sin servidor para cargas de trabajo de IA.

Después de completar el experimento, es importante gestionar los recursos adecuadamente para evitar costos inesperados: 1. Puedes optar por mantener el clúster Pro de ASK para uso futuro, entendiendo los costos asociados. 2. Si decides liberar recursos, sigue estos pasos: - Eliminar el clúster Pro de ASK desde la página de Clústeres. - Liberar el Gateway Nativo en la Nube MSE a través de la consola de MSE. - Eliminar el gateway NAT utilizando la consola de NAT Gateway. Una gestión adecuada de los recursos asegura eficiencia en costos y ayuda a mantener un entorno en la nube limpio después de la experimentación.