Offline Chat: Private AI

Представляем Offline Chat, чат-бот следующего поколения на базе ИИ, который работает полностью на вашем устройстве без Интернета. Вы можете использовать его в любом месте, а ваши данные остаются конфиденциальными и защищенными. Кроме того, вы можете загружать свои личные документы и задавать вопросы о их содержании. Это отличный способ проводить исследования с использованием чувствительных материалов. В настоящее время мы поддерживаем PDF и текстовые файлы. Мы предоставляем 3 модели: Tiny, Small и Medium. Более крупная модель дает лучшие ответы, но работает медленнее и требует более мощных устройств. "Tiny" работает на почти всех устройствах. "Small" требует iPhone 14 и 15 Pro, а "Medium" нуждается в Mac и высококлассных iPad. Хотя Offline Chat может не соответствовать возможностям лучших онлайн-моделей из-за ограничений памяти и обработки, он выделяется как увлекательный и универсальный инструмент. Он идеально подходит для стимулирования креативности и помощи в различных задачах, таких как написание, хотя рекомендуется проверять факты самостоятельно. Для технически ориентированных пользователей модель "Tiny" основана на Microsoft Phi 2, а модели "Small" и "Medium" основаны на Mistral 7B 0.2, квантизированных до 3 и 4 бит соответственно.