Modal

Modal 是一个 AI 基础设施平台，专为开发者设计，可实现推理、训练和批量处理，具有亚秒级冷启动、即时自动扩展和本地化开发体验。它提供代码定义的、可编程的基础设施，通过快速容器扩展、跨云弹性 GPU 容量和统一的可观测性来构建高性能。Modal 支持各种 ML 工作负载，包括 LLM 和生成模型的推理、模型训练、不受信任代码的沙箱以及大规模批量处理，所有这些都构建在一个比 Docker 快得多的 AI 原生运行时上。