Modal

Modal은 개발자가 서브초 단위의 콜드 스타트, 즉각적인 자동 확장, 로컬과 유사한 개발 경험을 통해 추론, 학습 및 배치 처리를 실행할 수 있도록 설계된 AI 인프라 플랫폼입니다. 코드 기반으로 정의되는 프로그래밍 가능한 인프라를 제공하며, 빠른 컨테이너 확장, 클라우드 전반의 탄력적인 GPU 용량, 통합된 관찰 가능성을 통해 성능을 위해 구축되었습니다. Modal은 LLM 및 생성 모델 추론, 모델 학습, 신뢰할 수 없는 코드 샌드박스, 대규모 배치 처리 등 다양한 ML 워크로드를 지원하며, 이 모든 것은 Docker보다 훨씬 빠른 AI 네이티브 런타임 기반으로 구축됩니다.