Создайте бизнес AIGC для ответов на вопросы по знаниям частных данных с помощью Lindorm AI Engine

Lindorm AI Engine предлагает комплексное решение для создания приложений AIGC для ответов на вопросы по знаниям частных данных. Интегрируя Lindorm AI Engine со встроенными возможностями векторного поиска, пользователи могут легко создавать функции ответов на вопросы по знаниям с помощью одного SQL-запроса, что значительно упрощает разработку приложений. Это устраняет сложности, связанные с традиционными методами, такими как дообучение больших языковых моделей (LLM) или отдельное управление векторными базами данных.

Растет спрос на системы ответов на вопросы по знаниям частных данных на основе больших языковых моделей (LLM). Цель состоит в том, чтобы позволить LLM, обученным на общедоступных корпусах, отвечать на вопросы, используя знания из выделенной базы знаний, применимой к внутренним корпоративным сценариям, таким как ответы на вопросы по рабочим заказам. Существующие решения включают дообучение LLM на конкретных наборах данных или использование векторного поиска для дополнения пользовательских запросов соответствующими документами из набора данных. Последний подход, основанный на «векторном поиске + Prompt Engineering», более популярен из-за высоких затрат и низкой своевременности дообучения. Этот подход включает нарезку документов, извлечение эмбеддингов и управление обновлениями документов, все это Lindorm AI Engine упрощает.

Прежде чем приступить к работе, убедитесь, что Lindorm AI Engine активирован. Также убедитесь, что ваша широкотабличная база данных имеет версию 2.5.4.3 или новее. Если вы используете более раннюю версию, рассмотрите возможность обновления или обратитесь в службу поддержки Lindorm за помощью. Кроме того, убедитесь, что включена функция совместимости с протоколом S3 и функция векторного поиска неструктурированных данных. Эти предварительные условия обеспечивают бесшовную интеграцию и оптимальную производительность Lindorm AI Engine.

Решение для ответов на вопросы по знаниям частных данных включает несколько моделей ИИ. В этом примере используется модель сегментации текста BERT из ModelScope для нарезки текста, модель text2vec-base-chinese из Hugging Face для векторизации текста и модель ChatGLM-6B-int4 из Hugging Face в качестве LLM. Важно отметить, что Alibaba Cloud не гарантирует законность, безопасность или точность сторонних моделей, и пользователи несут ответственность за соблюдение условий использования и применимых законов и нормативных актов.

Сначала подключитесь к широкотабличной базе данных с помощью таких инструментов, как Lindorm-cli. Затем создайте таблицу для хранения документов базы знаний. Например: ```sql CREATE TABLE doc_table ( id VARCHAR, doc_field VARCHAR, PRIMARY KEY(id) ); ``` Затем вставьте данные в таблицу. Эти данные послужат базой знаний для системы ответов на вопросы. Пример данных включает информацию о функциях Lindorm, обновлениях и возможностях.

Для реализации ответов на вопросы с полным поиском по объему создайте модель с помощью оператора `CREATE MODEL`, указав исходную таблицу, целевое поле, задачу, алгоритм и настройки. Например: ```sql CREATE MODEL rqa_model FROM doc_table TARGET doc_field TASK RETRIEVAL_QA ALGORITHM CHATGLM3_6B SETTINGS (doc_id_column 'id'); ``` Затем выполните запрос на получение ответов с помощью функции `ai_infer`: ```sql SELECT ai_infer('rqa_model', 'Lindorm是什么'); ``` Результатом будет ответ, сгенерированный LLM на основе базы знаний.

Чтобы включить инкрементную обработку, которая автоматически обрабатывает новые, измененные или удаленные документы в базе знаний, вам необходимо активировать потоковый движок и подписку на данные. Создайте канал подписки на данные через LTS в режиме Pull, указав имя таблицы Lindorm и имя темы Kafka. Затем создайте модель инкрементных ответов на вопросы: ```sql CREATE MODEL rqa_model FROM doc_table TARGET doc_field TASK RETRIEVAL_QA ALGORITHM CHATGLM3_6B SETTINGS (doc_id_column 'id', incremental_train 'on', lts_topic 'rqa_xxx_topic' ); ``` Выполните запрос на получение ответов, как и раньше: ```sql SELECT ai_infer('rqa_model', 'Lindorm是什么'); ``` Результат будет отражать обновленную базу знаний.

Если вам нужно интегрироваться с другими LLM, вы можете создать модель семантического поиска, чтобы Lindorm выполнял только функции семантического поиска по базе знаний (включая нарезку документов, векторизацию и векторный поиск). Создайте модель семантического поиска, которая обрабатывает только полные документы: ```sql CREATE MODEL sr_model FROM doc_table TARGET doc_field TASK SEMANTIC_RETRIEVAL ALGORITHM TEXT2VEC_BASE_CHINESE SETTINGS (doc_id_column 'id'); ``` Выполните семантический поиск: ```sql SELECT ai_infer('sr_model', 'Lindorm是什么'); ``` При желании вы можете установить параметр `score` для возврата оценок семантического сходства.

Lindorm AI Engine предлагает комплексное и эффективное решение для создания бизнес-приложений AIGC для ответов на вопросы по знаниям частных данных. Используя его встроенные возможности векторного поиска и упрощенный SQL-интерфейс, разработчики могут легко создавать интеллектуальные системы ответов на вопросы, сокращая время и сложность разработки. Независимо от того, нужен ли вам полный поиск по объему, инкрементные обновления или семантический поиск, Lindorm AI Engine предлагает инструменты и гибкость для удовлетворения ваших потребностей.