Bereitstellung von Elastic Stable Diffusion auf Alibaba Cloud Serverless Kubernetes

Dieser Artikel untersucht die Bereitstellung eines elastischen Stable Diffusion-Dienstes der Unternehmensklasse unter Verwendung von Alibaba Clouds Serverless Kubernetes (ASK) und Knative. Stable Diffusion, ein leistungsstarkes KI-Modell zur Bildgenerierung, kombiniert mit der Elastizität der serverlosen Architektur, bietet eine skalierbare und effiziente Lösung für Unternehmen. Durch die Nutzung von ASK und Knative können wir einen hochgradig reaktionsschnellen und kosteneffektiven KI-Bildgenerierungsdienst erstellen, der sich automatisch basierend auf der Nachfrage skalieren lässt.

Um die Umgebung einzurichten, müssen wir mehrere entscheidende Schritte abschließen: 1. Erstellen eines MSE Cloud-Native Gateway: Dies beinhaltet das Einloggen in die Microservices Engine (MSE) Konsole und die Aktivierung der MSE Cloud-Native Gateways. 2. MSE zur Nutzung von ECI autorisieren: Dieser Schritt stellt sicher, dass MSE mit Elastic Container Instance (ECI) interagieren kann. 3. Erstellen eines ASK Pro Clusters: Wir verwenden die ACK-Konsole, um einen Serverless Kubernetes-Cluster zu erstellen, wobei wir die Professional Edition für erweiterte Funktionen auswählen. Wichtige Konfigurationen umfassen die Festlegung des Cluster-Namens, der Region (empfohlen: Hongkong, China) und die Aktivierung von Knative. Diese vorbereitenden Schritte legen die Grundlage für unseren elastischen Stable Diffusion-Dienst und stellen sicher, dass wir die notwendige Infrastruktur und Berechtigungen haben.

Die Bereitstellung des Stable Diffusion-Dienstes umfasst die Erstellung eines Knative-Dienstes innerhalb unseres ASK-Clusters. So geht's: 1. Navigieren Sie zur Knative-Seite im Dashboard des Clusters. 2. Erstellen Sie einen neuen Dienst aus einer Vorlage, indem Sie eine bereitgestellte YAML-Konfiguration verwenden. 3. Die YAML definiert einen Dienst mit dem Namen 'knative-sd-demo' mit spezifischen Annotationen für Affinität und Autoskalierung. 4. Das verwendete Container-Image ist eine vorkonfigurierte Stable Diffusion-Installation. 5. Warten Sie nach der Erstellung, bis der Dienststatus auf 'Erstellt' wechselt. Diese Bereitstellung nutzt die serverlosen Fähigkeiten von Knative, sodass der Stable Diffusion-Dienst automatisch basierend auf der Nachfrage skaliert werden kann.

Um auf den Stable Diffusion-Dienst zuzugreifen und ihn zu testen, müssen wir einen Verkehrsgenerator erstellen und ihn exponieren: 1. Bereitstellung eines 'portal-server' unter Verwendung einer bereitgestellten YAML-Konfiguration. Dies dient sowohl als Lastgenerator als auch als Weboberfläche für den Stable Diffusion-Dienst. 2. Die Bereitstellung erstellt einen LoadBalancer-Dienst, der eine externe IP-Adresse bereitstellt. 3. Greifen Sie über die IP-Adresse des LoadBalancers auf die Weboberfläche zu. 4. Verwenden Sie die Oberfläche, um Bilder zu generieren, indem Sie Eingabeaufforderungen an das Stable Diffusion-Modell übergeben. Diese Einrichtung ermöglicht es uns, mit dem Stable Diffusion-Dienst zu interagieren und uns auf Stresstests vorzubereiten.

Um die Elastizität unseres ASK-Clusters und des Stable Diffusion-Dienstes zu überprüfen, führen wir Stresstests durch: 1. Verwenden Sie die Stresstest-Funktion in der Weboberfläche. 2. Setzen Sie die Parallelität auf 5 und die Gesamtanzahl der Anfragen auf 20. 3. Starten Sie den Stresstest und beobachten Sie die Ergebnisse. 4. Überwachen Sie während des Tests die Erstellung neuer Pods zur Bewältigung der erhöhten Last. 5. Beobachten Sie die generierten Bilder, die auf der Seite angezeigt werden. Dieser Stresstest demonstriert die Fähigkeit des ASK-Clusters, den Stable Diffusion-Dienst automatisch in Reaktion auf eine erhöhte Nachfrage zu skalieren, und zeigt die Leistungsfähigkeit der serverlosen Architektur für KI-Workloads.

Nach Abschluss des Experiments ist es wichtig, die Ressourcen ordnungsgemäß zu verwalten, um unerwartete Kosten zu vermeiden: 1. Sie können entscheiden, den ASK Pro-Cluster für weitere Nutzung zu behalten, wobei Sie die damit verbundenen Kosten verstehen. 2. Wenn Sie sich entscheiden, Ressourcen freizugeben, befolgen Sie diese Schritte: - Löschen Sie den ASK Pro-Cluster von der Cluster-Seite. - Geben Sie das MSE Cloud Native Gateway über die MSE-Konsole frei. - Entfernen Sie das NAT-Gateway über die NAT-Gateway-Konsole. Eine ordnungsgemäße Ressourcenverwaltung gewährleistet Kosteneffizienz und hilft, eine saubere Cloud-Umgebung nach Experimenten aufrechtzuerhalten.