Шаблоны приложений Azure AI: Ускорение разработки ИИ

Шаблоны приложений ИИ предоставляют разработчикам хорошо поддерживаемые и легко развертываемые эталонные реализации для запуска их ИИ-проектов. Эти шаблоны сгруппированы в стандартные блоки и комплексные решения, каждый из которых отвечает конкретным потребностям и сценариям использования разработчиков. В этой статье рассматриваются эти шаблоны, освещаются их ключевые особенности и преимущества для создания надежных ИИ-приложений на платформе Azure.

Стандартные блоки — это небольшие, сфокусированные примеры, ориентированные на конкретные сценарии и задачи. Многие из этих блоков демонстрируют функциональные возможности, используемые в комплексном приложении чата с использованием пользовательских данных. Примеры включают: * **Балансировка нагрузки с помощью Azure Container Apps:** Расширяет возможности приложения чата за пределы квот Azure OpenAI по токенам и моделям. * **Настройка безопасности документов:** Гарантирует, что доступ пользователя к ответам приложения чата основан на его разрешениях. * **Оценка ответов приложения чата:** Оценивает ответы приложения чата на соответствие набору правильных ответов для сравнения изменений. * **Нагрузочное тестирование с помощью Locust:** Выполняет нагрузочное тестирование Python-приложений чата, чтобы убедиться, что они не превышают квоты Azure OpenAI TPM. * **Защита ИИ-приложений с помощью аутентификации без ключей:** Защищает Python-приложения чата Azure OpenAI с помощью аутентификации без пароля.

Комплексные решения — это сквозные эталонные примеры, включающие документацию, исходный код и инструкции по развертыванию. Эти решения предназначены для адаптации и расширения для пользовательских целей. Примеры включают: * **Чат с данными с использованием Azure OpenAI и AI Search (.NET & Python & Java & JavaScript):** Демонстрирует шаблон Retrieval-Augmented Generation (RAG), использующий Azure AI Search и Azure OpenAI для интерфейсов, подобных ChatGPT. * **Contoso Chat Retail Copilot (.NET):** Улучшает взаимодействие с клиентами с помощью интеллектуального чат-агента для концептуального магазина товаров для отдыха на природе. * **Автоматизация процессов с помощью Speech-to-Text и Summarization (.NET):** Автоматизирует обработку проблем, сообщаемых полевыми работниками, преобразуя речь в текст и обобщая проблему. * **Multi-Modal Creative Writing Copilot (Python):** Многоагентное решение для помощи пользователям в написании статей с использованием Bing Search и Azure AI Search. * **Contoso Chat Retail Copilot с Azure AI Foundry:** Решение для розничной торговли с использованием шаблона RAG для ответов на запросы о розничных данных и данных клиентов. * **Автоматизация процессов с помощью Speech-to-Text и Summarization (Python):** Создает веб-приложение для сотрудников, позволяющее сообщать о проблемах в текстовом или голосовом формате, обобщая информацию для соответствующих отделов. * **API Analytics Copilot (Python):** Ассистент по работе с API для общения с табличными данными и выполнения анализа на естественном языке. * **Banking Assistant с Multi-Agent Architecture (Java):** Персональный банковский ассистент, предназначенный для трансформации взаимодействия пользователей с информацией о банковских счетах и функциями платежей.

Шаблон Chat with Data — это комплексное решение, демонстрирующее шаблон Retrieval-Augmented Generation (RAG). Он использует Azure AI Search для поиска информации и большие языковые модели Azure OpenAI для обеспечения работы интерфейса вопросов и ответов, подобного ChatGPT. Этот шаблон доступен на нескольких языках, включая .NET, Python, Java и JavaScript, что делает его доступным для широкого круга разработчиков. Он демонстрирует интеграцию служб Azure для создания мощного и интеллектуального приложения чата.

Шаблон Contoso Chat Retail Copilot реализует виртуальный магазин, который улучшает взаимодействие с клиентами и поддержку продаж с помощью интеллектуального чат-агента. Этот агент использует шаблон Retrieval-Augmented Generation (RAG) в Microsoft Azure AI Stack, обогащенный семантическим ядром и поддержкой запросов. Он предоставляет диалоговый интерфейс для клиентов, позволяющий задавать вопросы и получать соответствующие ответы на основе их истории покупок, обеспечивая ответственные практики ИИ для качества и безопасности.

Этот шаблон автоматизирует обработку проблем, сообщаемых полевыми работниками на производственном предприятии. Он преобразует аудиовходы из речи в текст, а затем использует LLM для обобщения проблемы, возвращая результаты в структурированном формате. Это решение оптимизирует процесс отчетности, облегчая сотрудникам передачу информации о проблемах и компании — их эффективное решение. Оно использует возможности Azure по преобразованию речи в текст и методы обобщения для предоставления комплексного решения для автоматизации.

Multi-Modal Creative Writing Copilot — это творческое решение для создания нескольких агентов, которые помогают пользователям писать статьи. Оно демонстрирует, как создавать и работать с ИИ-агентами, управляемыми Azure OpenAI. Решение включает приложение Flask, агент исследования, использующий Bing Search API, агент продукта, использующий Azure AI Search, агент писателя для объединения информации из исследований и продукта, а также агент редактора для доработки статьи. Этот шаблон демонстрирует мощь ИИ-агентов в улучшении процесса написания.

Этот проект разработан как концепция (PoC) для изучения инновационной области генерации ИИ в контексте многоагентных архитектур. Используя Java и платформу оркестрации ИИ Microsoft Semantic Kernel, цель состоит в том, чтобы создать веб-приложение чата для демонстрации эффективности и надежности использования сгенерированных ИИ агентов для преобразования взаимодействия пользователей с веб-кликами в диалоги на естественном языке, максимизируя при этом использование существующих данных рабочей нагрузки и API. Основной сценарий использования вращается вокруг персонального банковского ассистента, разработанного для изменения способа взаимодействия пользователей с информацией о банковских счетах, историей транзакций и функциями платежей.

Этот шаблон представляет собой бессерверный ИИ-чатбот, использующий LangChain.js и Azure, который использует набор корпоративных документов для генерации ответов на запросы пользователей. Он использует вымышленную компанию Contoso Real Estate, и этот опыт позволяет ее клиентам задавать вопросы о поддержке использования их продуктов. Пример данных содержит набор документов, описывающих условия обслуживания, политику конфиденциальности и руководство по поддержке. Этот шаблон демонстрирует интеграцию LangChain.js и служб Azure для создания мощного и интеллектуального приложения чата.

Шаблоны приложений ИИ на Azure предоставляют ценную отправную точку для разработчиков, желающих создавать интеллектуальные приложения. Предлагая готовые решения и стандартные блоки, эти шаблоны ускоряют процесс разработки и обеспечивают высокое качество реализаций. Независимо от того, создаете ли вы приложение чата, автоматизируете процессы или создаете многоагентную систему, шаблоны приложений ИИ Azure предлагают инструменты и ресурсы, необходимые для успеха.