Максимизация производительности ИИ: настройка гиперпараметров и оптимизация программного обеспечения

В постоянно развивающейся области искусственного интеллекта (ИИ) ученые-данные постоянно ищут методы повышения производительности своих приложений. Одной из эффективных стратегий является использование оптимизированного программного обеспечения для машинного обучения, а не стандартных пакетов. Кроме того, настройка гиперпараметров с помощью платформ, таких как SigOpt, может значительно улучшить точность и эффективность модели.

PLAsTiCC (Photometric LSST Astronomical Time-Series Classification Challenge) — это открытый вызов данных, направленный на классификацию небесных объектов на основе их изменений яркости. Используя смоделированные астрономические временные ряды, этот вызов готовит к будущим наблюдениям с помощью Большого синоптического обзорного телескопа в Чили. Участники должны классифицировать объекты в одну из 14 классов, переходя от небольшого обучающего набора из 1,4 миллиона строк к огромному тестовому набору из 189 миллионов строк.

Разработка модели ИИ может быть разделена на три ключевых этапа: 1. **Readcsv**: Этот этап включает загрузку обучающих и тестовых данных вместе с метаданными в датафреймы pandas. 2. **ETL (Извлечение, Преобразование, Загрузка)**: Здесь датафреймы манипулируются и обрабатываются для подготовки их к алгоритму обучения. 3. **ML (Машинное обучение)**: Этот этап использует метод гистограммного дерева из библиотеки XGBoost для обучения классификационной модели, которая затем проходит кросс-валидацию и используется для классификации объектов в обширном тестовом наборе.

Для повышения производительности этапов Readcsv и ETL используется Intel® Distribution for Modin*. Эта библиотека параллельных и распределенных датафреймов, которая соответствует API pandas, позволяет значительно улучшить производительность операций с датафреймами при минимальных изменениях кода. Используя эту библиотеку, обработка данных становится более эффективной и масштабируемой.

Для этапа машинного обучения используется библиотека XGBoost, оптимизированная для архитектуры Intel®. Эта версия XGBoost разработана для повышения эффективности кэширования и паттернов доступа к памяти, что позволяет добиться лучшей производительности на процессорах Intel®. Пользователи могут легко получить доступ к этой оптимизированной версии, установив последнюю версию пакета XGBoost.

Для дальнейшего повышения производительности модели настройка гиперпараметров проводится с использованием SigOpt, платформы для разработки моделей, которая упрощает процесс оптимизации. SigOpt отслеживает эксперименты по обучению, визуализирует результаты и масштабирует оптимизацию гиперпараметров для различных моделей. Определяя оптимальные значения параметров, SigOpt помогает достичь лучших показателей точности и времени для вызова PLAsTiCC.

Интеграция оптимизированного программного обеспечения и настройки гиперпараметров привела к замечательным улучшениям производительности. Использование оптимизированного программного стека обеспечило 18-кратное ускорение от начала до конца на всех этапах PLAsTiCC. Кроме того, настройка гиперпараметров с помощью SigOpt добавила еще 5,4-кратное улучшение производительности машинного обучения, что в итоге дало 1,5-кратное общее улучшение.

Оптимизации производительности были достигнуты с использованием мощной аппаратной конфигурации: 2 процессора Intel® Xeon® Platinum 8280L (28 ядер), работающих под управлением Ubuntu 20.04.1 LTS с 384 ГБ ОЗУ. Программный стек включал scikit-learn, pandas, XGBoost и другие библиотеки, оптимизированные для производительности.

Описанные шаги демонстрируют значительные улучшения производительности, которые можно достичь в рабочих нагрузках ИИ с помощью оптимизированных программных пакетов, библиотек и инструментов настройки гиперпараметров. Используя эти технологии, ученые-данные могут раскрыть весь потенциал своих приложений ИИ.