알리바바 클라우드 서버리스 쿠버네티스에서 엘라스틱 스테이블 디퓨전 배포하기

이 글에서는 알리바바 클라우드의 서버리스 쿠버네티스(ASK)와 Knative를 사용하여 기업급 엘라스틱 스테이블 디퓨전 서비스를 배포하는 방법을 탐구합니다. 이미지 생성을 위한 강력한 AI 모델인 스테이블 디퓨전과 서버리스 아키텍처의 유연성을 결합하여 기업에 확장 가능하고 효율적인 솔루션을 제공합니다. ASK와 Knative를 활용함으로써 수요에 따라 자동으로 확장되는 매우 반응성이 뛰어나고 비용 효율적인 AI 이미지 생성 서비스를 만들 수 있습니다.

환경을 설정하기 위해서는 몇 가지 중요한 단계를 완료해야 합니다: 1. MSE 클라우드 네이티브 게이트웨이 생성: 이는 마이크로서비스 엔진(MSE) 콘솔에 로그인하고 MSE 클라우드 네이티브 게이트웨이를 활성화하는 것을 포함합니다. 2. ECI에 대한 MSE 접근 권한 부여: 이 단계는 MSE가 엘라스틱 컨테이너 인스턴스(ECI)와 상호작용할 수 있도록 보장합니다. 3. ASK 프로 클러스터 생성: ACK 콘솔을 사용하여 서버리스 쿠버네티스 클러스터를 생성하며, 향상된 기능을 위해 프로페셔널 에디션을 선택합니다. 주요 구성 요소로는 클러스터 이름, 지역(추천: 중국 홍콩) 설정 및 Knative 활성화가 포함됩니다. 이러한 준비 단계는 엘라스틱 스테이블 디퓨전 서비스의 기초를 마련하여 필요한 인프라와 권한이 갖춰지도록 합니다.

스테이블 디퓨전 서비스를 배포하려면 ASK 클러스터 내에서 Knative 서비스를 생성해야 합니다. 방법은 다음과 같습니다: 1. 클러스터 대시보드에서 Knative 페이지로 이동합니다. 2. 제공된 YAML 구성을 사용하여 템플릿에서 새 서비스를 생성합니다. 3. YAML은 특정 주석을 가진 'knative-sd-demo'라는 이름의 서비스를 정의합니다. 4. 사용되는 컨테이너 이미지는 미리 구성된 스테이블 디퓨전 설정입니다. 5. 생성 후 서비스 상태가 '생성됨'으로 변경될 때까지 기다립니다. 이 배포는 Knative의 서버리스 기능을 활용하여 스테이블 디퓨전 서비스가 수요에 따라 자동으로 확장되도록 합니다.

스테이블 디퓨전 서비스에 접근하고 테스트하기 위해 트래픽 생성기를 만들고 이를 노출해야 합니다: 1. 제공된 YAML 구성을 사용하여 'portal-server'를 배포합니다. 이는 스테이블 디퓨전 서비스의 로드 생성기이자 웹 인터페이스 역할을 합니다. 2. 배포는 외부 IP 주소를 제공하는 LoadBalancer 서비스를 생성합니다. 3. LoadBalancer의 IP 주소를 사용하여 웹 인터페이스에 접근합니다. 4. 인터페이스를 사용하여 스테이블 디퓨전 모델에 프롬프트를 제공하여 이미지를 생성합니다. 이 설정을 통해 스테이블 디퓨전 서비스와 상호작용하고 스트레스 테스트를 준비할 수 있습니다.

ASK 클러스터와 스테이블 디퓨전 서비스의 유연성을 검증하기 위해 스트레스 테스트를 수행합니다: 1. 웹 인터페이스의 스트레스 테스트 기능을 사용합니다. 2. 동시성을 5로 설정하고 총 요청 수를 20으로 설정합니다. 3. 스트레스 테스트를 시작하고 결과를 관찰합니다. 4. 테스트 중에 증가된 부하를 처리하기 위해 새로운 포드의 생성 여부를 모니터링합니다. 5. 페이지에 표시된 생성된 이미지를 관찰합니다. 이 스트레스 테스트는 ASK 클러스터가 증가된 수요에 따라 스테이블 디퓨전 서비스를 자동으로 확장할 수 있는 능력을 보여주며, AI 작업 부하를 위한 서버리스 아키텍처의 강점을 강조합니다.

실험을 완료한 후에는 예상치 못한 비용을 피하기 위해 자원을 적절히 관리하는 것이 중요합니다: 1. ASK 프로 클러스터를 향후 사용을 위해 유지할 수 있으며, 관련 비용을 이해해야 합니다. 2. 자원을 해제하기로 결정한 경우 다음 단계를 따릅니다: - 클러스터 페이지에서 ASK 프로 클러스터를 삭제합니다. - MSE 콘솔을 통해 MSE 클라우드 네이티브 게이트웨이를 해제합니다. - NAT 게이트웨이 콘솔을 사용하여 NAT 게이트웨이를 제거합니다. 적절한 자원 관리는 비용 효율성을 보장하고 실험 후 클라우드 환경을 깨끗하게 유지하는 데 도움이 됩니다.