Modal

Modal é uma plataforma de infraestrutura de IA projetada para que desenvolvedores executem inferência, treinamento e processamento em lote com inicializações a frio em menos de um segundo, escalonamento automático instantâneo e uma experiência de desenvolvedor semelhante à local. Ela oferece infraestrutura programável definida em código, construída para desempenho com escalonamento rápido de contêineres, capacidade elástica de GPU entre nuvens e observabilidade unificada. Modal potencializa várias cargas de trabalho de ML, incluindo inferência para LLMs e modelos generativos, treinamento de modelos, sandboxes para código não confiável e processamento em lote em larga escala, tudo construído em um runtime nativo de IA que é significativamente mais rápido que o Docker.