Offline Chat: Private AI

Einführung von Offline Chat, dem KI-Chatbot der nächsten Generation, der vollständig auf Ihrem Gerät ohne Internetverbindung läuft. Sie können ihn überall verwenden, und Ihre Daten bleiben privat und sicher. Neben allgemeinen Fragen können Sie auch Ihre privaten Dokumente laden und Fragen zu deren Inhalt stellen. Es ist eine großartige Möglichkeit, Forschung mit sensiblen Materialien durchzuführen. Derzeit unterstützen wir PDF- und Textdateien. Wir bieten 3 Modelle an: Tiny, Small und Medium. Ein größeres Modell liefert bessere Antworten, läuft jedoch langsamer und erfordert leistungsfähigere Geräte. "Tiny" läuft auf fast allen Geräten. "Small" benötigt iPhone 14 und 15 Pro, und "Medium" benötigt Macs und hochwertige iPads. Während Offline Chat möglicherweise nicht mit der Leistungsfähigkeit von erstklassigen Online-Modellen mithalten kann, aufgrund inhärenter Speicher- und Verarbeitungsbeschränkungen, hebt es sich als ein ansprechendes und vielseitiges Werkzeug hervor. Es ist perfekt, um Kreativität zu entfachen und bei verschiedenen Aufgaben wie dem Schreiben zu helfen, obwohl es ratsam ist, Fakten unabhängig zu überprüfen. Für die technisch Orientierten basiert das "Tiny"-Modell auf Microsoft Phi 2, und die Modelle "Small" und "Medium" basieren auf Mistral 7B 0.2, quantisiert auf 3-Bit und 4-Bit respektive.