Offline Chat: Private AI

ऑफलाइन चैट का परिचय, अगली पीढ़ी का एआई चैटबॉट जो पूरी तरह से आपके डिवाइस पर बिना इंटरनेट के चलता है। आप इसका उपयोग कहीं भी कर सकते हैं, और आपका डेटा निजी और सुरक्षित रहता है। सामान्य प्रश्न पूछने के अलावा, आप अपने निजी दस्तावेज़ भी लोड कर सकते हैं और उनके सामग्री के बारे में प्रश्न पूछ सकते हैं। यह संवेदनशील सामग्री का उपयोग करके शोध करने का एक शानदार तरीका है। वर्तमान में, हम PDF और साधारण पाठ फ़ाइलों का समर्थन करते हैं। हम 3 मॉडल प्रदान करते हैं: टाइनी, स्मॉल, और मीडियम। एक बड़ा मॉडल बेहतर उत्तर देता है, लेकिन यह धीमा चलता है और अधिक सक्षम डिवाइस की आवश्यकता होती है। "टाइनी" लगभग सभी डिवाइस पर चलता है। "स्मॉल" को iPhone 14 और 15 प्रो की आवश्यकता होती है और "मीडियम" को मैक और उच्च अंत आईपैड की आवश्यकता होती है। जबकि ऑफलाइन चैट शीर्ष स्तरीय ऑनलाइन मॉडलों की क्षमता से मेल नहीं खा सकता है, यह अंतर्निहित मेमोरी और प्रोसेसिंग सीमाओं के कारण, यह एक आकर्षक और बहुपरकारी उपकरण के रूप में उभरता है। यह रचनात्मकता को प्रोत्साहित करने और लेखन जैसे विभिन्न कार्यों में सहायता करने के लिए एकदम सही है, हालांकि तथ्यों की स्वतंत्र रूप से पुष्टि करना सलाहकार है। तकनीकी रूप से उन्मुख लोगों के लिए, "टाइनी" मॉडल Microsoft Phi 2 पर आधारित है, और "स्मॉल" और "मीडियम" मॉडल Mistral 7B 0.2 पर आधारित हैं, जिन्हें क्रमशः 3-बिट और 4-बिट में क्वांटाइज किया गया है।