Modal

Modal — это платформа инфраструктуры ИИ, разработанная для разработчиков, позволяющая выполнять инференс, обучение и пакетную обработку с временем холодного старта менее секунды, мгновенным автомасштабированием и локальным опытом разработки. Она предлагает программируемую инфраструктуру, определяемую кодом, созданную для высокой производительности благодаря быстрому масштабированию контейнеров, эластичной мощности GPU в облаках и унифицированной наблюдаемости. Modal поддерживает различные рабочие нагрузки машинного обучения, включая инференс для LLM и генеративных моделей, обучение моделей, песочницы для недоверенного кода и крупномасштабную пакетную обработку, все это построено на AI-нативной среде выполнения, которая значительно быстрее Docker.