Modal

Modal est une plateforme d'infrastructure IA conçue pour que les développeurs exécutent l'inférence, l'entraînement et le traitement par lots avec des démarrages à froid inférieurs à la seconde, une mise à l'échelle automatique instantanée et une expérience de développement locale. Elle offre une infrastructure programmable définie par le code, conçue pour la performance avec une mise à l'échelle rapide des conteneurs, une capacité GPU élastique sur différents clouds et une observabilité unifiée. Modal alimente diverses charges de travail ML, y compris l'inférence pour les LLM et les modèles génératifs, l'entraînement de modèles, les sandboxes pour le code non fiable et le traitement par lots à grande échelle, le tout construit sur un runtime natif IA significativement plus rapide que Docker.