![github-actions[bot]](https://avatars.githubusercontent.com/in/15368?v=4){kind=small}
Belege
Antworten, die ihre Quelle nennen.
Jede Antwort kommt mit klickbaren Verweisen auf die Stelle im Originaldokument. Wenn das Modell etwas nicht belegen kann, sagt es das.
Zur Architektur
Lokaler KI-Wissensassistent
Eigene Dokumente befragen — vollständig offline.
LokLM speichert deine Dokumente verschlüsselt auf dem Gerät und beantwortet Fragen über eine Chat-Oberfläche — mit klickbaren Quellenverweisen. Keine Cloud, keine externen KI-APIs.
100% offline Lokale Verschlüsselung Open Source · MIT
Unser Stack
Auf den Schultern der Open-Source-Community gebaut
Warum
Lokale KI ist mühsam. Wir machen sie zugänglich.
Modelle vergleichen, RAG-Pipelines bauen, Inference lokal aufsetzen, Daten verschlüsseln — das ist eine Menge Arbeit, bevor du die erste Frage stellst. LokLM nimmt dir diesen Teil ab.
Der harte Weg
- Modelle finden, evaluieren und quantisieren
- RAG-Pipeline bauen — Chunking, Embeddings, Retrieval, Reranking
- Inference-Stack lokal aufsetzen (llama.cpp, GPU/CPU, Quant-Level)
- Vault verschlüsseln, Schlüssel verwalten, Backups planen
- Aktuelle RAG-Forschung verfolgen und nachziehen
Mit LokLM
Installieren. Dokumente ablegen. Fragen stellen.
Modellauswahl, Pipeline-Tuning und Verschlüsselung haben wir im Hintergrund erledigt. Du brauchst kein ML-Engineer zu sein, um deine eigenen Dokumente mit einer lokalen KI zu befragen.
So funktioniert es
In drei Schritten.
Installieren, Dokumente importieren, Fragen stellen — mit Quellen, die du anklicken kannst.
- Schritt 1
Dokumente in den Vault ziehen
PDF, Markdown, Text oder Code per Drag & Drop. LokLM indexiert lokal und verschlüsselt — kein Upload, kein Account.
- Schritt 2
In natürlicher Sprache fragen
Stell eine Frage zu deinen Dokumenten. Das Modell läuft auf deiner Maschine — keine Anfrage geht ins Netz.
- Schritt 3
Quelle prüfen — direkt anklicken
Jede Antwort enthält Quellenverweise. Ein Klick öffnet die Originalstelle im Dokument.
Vault
Eine verschlüsselte Datei — dein gesamtes Wissen.
Argon2id-Passwort-Hashing, AES-GCM-Verschlüsselung pro Datei, Wiederherstellung über eine 18-Wort-Phrase. Eine einzige Vault-Datei zum Sichern.
Architektur ansehen
Offline
Kein Netz, kein Problem.
Das Modell läuft lokal, der Index liegt lokal, die Verschlüsselung passiert lokal. Du kannst LokLM den Netzwerkzugriff entziehen — es ändert nichts.
Diagramm ansehen
Mehr Funktionen
-
Vollständig offline
Modelle laufen lokal. Kein Account, kein Telemetrie-Ping, keine API-Aufrufe an externe Anbieter.
-
Klickbare Quellenverweise
Jede Antwort enthält Belege aus deinen eigenen Dokumenten — direkt anklickbar bis zur Originalstelle.
-
PDF, Markdown, Text, Code
Importiere Dokumente in den gängigen Formaten und organisiere sie in Arbeitsbereichen.
-
Verschlüsselter Vault
Argon2id-Passwort-Hashing, AES-GCM-Verschlüsselung pro Datei, Wiederherstellung über 18-Wort-Phrase.
-
Daten bleiben bei dir
Alles wird in einer einzigen Vault-Datei gespeichert — leicht zu sichern, leicht zu migrieren.
-
Quelltext einsehbar
MIT-Lizenz. Audit, fork, beitragen — der gesamte Code ist auf GitHub einsehbar.
Sicherheit
Wo deine Daten leben — und wo nicht.
Eine Übersicht des Datenflusses. Die gestrichelte Linie ist das Netz — LokLM überquert sie nie.
- Argon2id Passwort-Hashing
- AES-GCM pro Datei
- 18-Wort-Wiederherstellungsphrase
- Keine Telemetrie, kein Account
Wofür
Wo LokLM gut ist.
Vier Beispiele aus der Praxis. Honest framing: das hier ist die Stärke — nicht offene Wissensfragen ohne Kontext.
- Anwalt
“Wo steht die Cap-Rate-Klausel im Mietvertrag?”
→ Belegt in §4.2 von Mietvertrag.pdf
- Forscher
“Fasse die Methodik dieser drei Paper zusammen.”
→ Mit Seitenangaben je Paper
- Berater
“Was hat der Kunde im Q3-Review zugesagt?”
→ Zitiert aus review.docx:12
- Entwickler
“Wie ist die Auth-Middleware in diesem Repo konfiguriert?”
→ Belegt in src/main/auth.ts:88
Download
Download
Aktuelle Version. Verifiziere die SHA-256-Prüfsumme vor der Installation.
Version
v0.3.0
Veröffentlicht
2026-05-27
Größe
2.4 MB
windows
2.4 MB
macos
3.0 MB
linux
3.1 MB
info Erste Installation lädt ca. 20 GB Modelldateien. Stabile Verbindung empfohlen.
SHA-256 — LokLM-x64.exe
126f696dbf853a21fcabc9768cefed8b9bec5c2325f64a7ea2bf64748296e672 Systemanforderungen
Windows 10/11 (x64)
RAM
16 GB RAM empfohlen
Disk
25 GB freier Speicher
FAQ
Häufige Fragen.
Ist LokLM wirklich offline?
Ja. Modelle und Index laufen lokal. Die einzige Netzwerkaktivität ist der einmalige Modell-Download bei der Installation und Updates, wenn du sie startest.
Wie groß sind die Modelle und woher kommen sie?
Die Erstinstallation lädt etwa 20 GB Modelldateien (Embedding + LLM) von Hugging Face. Danach läuft alles lokal.
Kann ich ein eigenes Modell mitbringen (GGUF)?
Ja. LokLM nutzt llama.cpp unter der Haube. Eigene GGUF-Modelle lassen sich in den Modellordner legen und in den Einstellungen auswählen.
Braucht es eine GPU?
Nein, aber mit GPU geht es spürbar schneller. Auf 16 GB RAM ohne GPU sind die kleineren Modelle nutzbar.
Wo werden meine Dokumente gespeichert?
In einer einzigen verschlüsselten Vault-Datei in deinem Benutzerordner. Verschlüsselt mit AES-GCM, der Schlüssel wird aus deinem Passwort via Argon2id abgeleitet.
Ist LokLM so klug wie ChatGPT oder Claude?
Nein. Cloud-Modelle laufen auf um Größenordnungen mehr Hardware. LokLM ist für etwas anderes optimiert: Privatsphäre, Quellenverweise auf deine eigenen Dokumente, und vollständig offline. Für offene Wissensfragen ohne Kontext sind Cloud-Modelle weiter besser — LokLM ist stark, wenn die Antwort in deinen eigenen Unterlagen steht.
Wie sichere ich den Vault?
Die Vault-Datei kopierst du wohin du willst — externe Festplatte, Cloud-Speicher (sie ist verschlüsselt), Backup-Tool deiner Wahl.
Was passiert, wenn ich das Passwort verliere?
Du kannst den Vault mit deiner 18-Wort-Wiederherstellungsphrase wiederherstellen. Ohne beides ist der Vault nicht zu öffnen — das ist Absicht.