Déploiement d'un service Elastic Stable Diffusion sur Alibaba Cloud Serverless Kubernetes

Cet article explore le déploiement d'un service Elastic Stable Diffusion de classe entreprise en utilisant Serverless Kubernetes (ASK) et Knative d'Alibaba Cloud. Stable Diffusion, un puissant modèle d'IA pour la génération d'images, combiné à l'élasticité de l'architecture sans serveur, offre une solution évolutive et efficace pour les entreprises. En tirant parti d'ASK et de Knative, nous pouvons créer un service de génération d'images IA hautement réactif et rentable qui s'adapte automatiquement en fonction de la demande.

Pour configurer l'environnement, nous devons compléter plusieurs étapes cruciales : 1. Créer une passerelle cloud-native MSE : Cela implique de se connecter à la console Microservices Engine (MSE) et d'activer les passerelles cloud-native MSE. 2. Autoriser MSE à accéder à ECI : Cette étape garantit que MSE peut interagir avec Elastic Container Instance (ECI). 3. Créer un cluster Pro ASK : Nous utiliserons la console ACK pour créer un cluster Kubernetes sans serveur, en sélectionnant l'édition Professionnelle pour des fonctionnalités améliorées. Les configurations clés incluent le nom du cluster, la région (recommandé : Hong Kong, Chine) et l'activation de Knative. Ces étapes préparatoires posent les bases de notre service Elastic Stable Diffusion, garantissant que nous avons l'infrastructure et les autorisations nécessaires en place.

Le déploiement du service Stable Diffusion implique la création d'un service Knative au sein de notre cluster ASK. Voici comment procéder : 1. Accédez à la page Knative dans le tableau de bord du cluster. 2. Créez un nouveau service à partir d'un modèle, en utilisant une configuration YAML fournie. 3. Le YAML définit un service nommé 'knative-sd-demo' avec des annotations spécifiques pour l'affinité et l'autoscaling. 4. L'image du conteneur utilisée est une configuration Stable Diffusion préconfigurée. 5. Après la création, attendez que le statut du service change en 'Créé'. Ce déploiement tire parti des capacités sans serveur de Knative, permettant au service Stable Diffusion de s'adapter automatiquement en fonction de la demande.

Pour accéder et tester le service Stable Diffusion, nous devons créer un générateur de trafic et l'exposer : 1. Déployez un 'portal-server' en utilisant une configuration YAML fournie. Cela sert à la fois de générateur de charge et d'interface web pour le service Stable Diffusion. 2. Le déploiement crée un service LoadBalancer, fournissant une adresse IP externe. 3. Accédez à l'interface web en utilisant l'adresse IP du LoadBalancer. 4. Utilisez l'interface pour générer des images en fournissant des invites au modèle Stable Diffusion. Cette configuration nous permet d'interagir avec le service Stable Diffusion et de nous préparer aux tests de charge.

Pour vérifier l'élasticité de notre cluster ASK et du service Stable Diffusion, nous allons effectuer des tests de charge : 1. Utilisez la fonction de test de charge dans l'interface web. 2. Réglez la concurrence à 5 et le nombre total de requêtes à 20. 3. Lancez le test de charge et observez les résultats. 4. Pendant le test, surveillez la création de nouveaux pods pour gérer la charge accrue. 5. Observez les images générées affichées sur la page. Ce test de charge démontre la capacité du cluster ASK à adapter automatiquement le service Stable Diffusion en réponse à une demande accrue, mettant en avant la puissance de l'architecture sans serveur pour les charges de travail IA.

Après avoir terminé l'expérience, il est important de gérer correctement les ressources pour éviter des coûts inattendus : 1. Vous pouvez choisir de conserver le cluster Pro ASK pour une utilisation ultérieure, en comprenant les coûts associés. 2. Si vous décidez de libérer des ressources, suivez ces étapes : - Supprimez le cluster Pro ASK depuis la page des clusters. - Libérez la passerelle cloud-native MSE via la console MSE. - Supprimez la passerelle NAT en utilisant la console de la passerelle NAT. Une gestion appropriée des ressources garantit l'efficacité des coûts et aide à maintenir un environnement cloud propre après l'expérimentation.