Recherche-Ratgeber · KI-Agenten

Lokale KI mit Ollama und LM Studio: Sprachmodelle auf dem eigenen Rechner

Recherche-Ratgeber · Stand Oktober 2026 · kein Praxistest · veröffentlicht 22.10.2026 · 8 Min · CompareAI Editorial

Teil der Themenübersicht KI-Agenten für Freelancer: Alle Ratgeber zu Assistenten, Chatbots und Kosten

Hinweis: Dieser Beitrag ist eine Recherche auf Basis öffentlicher Anbieterangaben und Gesetzestexte (Stand Okt 2026), kein Praxistest. Preise und Limits können sich ändern, prüfe sie vor dem Kauf auf der verlinkten Quelle. Keine Rechts- oder Steuerberatung.

Cloud-Assistenten wie ChatGPT oder Claude sind bequem, aber jede Eingabe verlässt deinen Rechner. Für Verträge, Personalunterlagen von Kunden oder unveröffentlichte Manuskripte ist das oft ein Problem. Eine Alternative sind offene Sprachmodelle, die direkt auf dem eigenen Laptop oder PC laufen. Die bekanntesten Werkzeuge dafür sind Ollama und LM Studio. Dieser Ratgeber erklärt, was lokale KI leisten kann, was sie kostet und worauf du achten solltest. Grundlage sind die Dokumentationen der Anbieter, Stand Oktober 2026; eine eigene Leistungsmessung auf bestimmter Hardware haben wir nicht vorgenommen.

Was „lokal“ bedeutet

Bei lokaler KI lädst du die Gewichte eines offenen Modells einmalig herunter. Danach rechnet dein eigener Prozessor oder deine Grafikkarte die Antworten aus – ohne dass Prompts an einen Server geschickt werden. Laut Ollama-FAQ sieht der Anbieter deine Prompts und Daten nicht, wenn du Modelle lokal ausführst. Das ist der entscheidende Unterschied zu Cloud-Diensten, bei denen du auf Einstellungen wie das Abschalten des KI-Trainings und auf Verträge angewiesen bist.

Ollama und LM Studio im Vergleich

Merkmal	Ollama	LM Studio
Bedienung	App und Kommandozeile, lokale API auf Port 11434	Desktop-App mit Chat-Oberfläche und Modellsuche
Betriebssysteme	macOS, Windows, Linux	macOS, Windows, Linux (laut Anbieter)
Lizenz/Kosten lokal	Open Source (MIT), kostenlos	kostenlos, seit Juli 2025 ausdrücklich auch für die Arbeit
Bezahlangebote	Cloud-Modelle: Pro 20 $/Monat, Max 100 $/Monat, Team 500 $/Monat (Early Access)	optionale Team- und Enterprise-Pläne für Teilen, Zugriffsrechte, SSO
Cloud abschaltbar	ja, per `OLLAMA_NO_CLOUD=1`	Desktop-App arbeitet lokal

Laut ollama.com/pricing, docs.ollama.com/faq und LM-Studio-Blog „Free for work“ (Abruf 22.10.2026).

Für Einsteiger ist LM Studio wegen der grafischen Oberfläche oft zugänglicher. Ollama spielt seine Stärken aus, wenn andere Programme die KI nutzen sollen – etwa ein Automations-Workflow in n8n, ein Editor-Plugin oder ein eigenes Skript, das über die lokale Schnittstelle Texte zusammenfassen lässt.

Wichtig: Ollama hat inzwischen auch Cloud-Modelle

Ollama bietet neben der lokalen Nutzung Cloud-Modelle an, die über Nutzungs-Credits abgerechnet werden. Dann werden Prompts sehr wohl an Server geschickt; laut Ollama werden sie dort zur Bereitstellung verarbeitet, aber nicht gespeichert, protokolliert oder fürs Training verwendet. Das haben wir nicht unabhängig geprüft. Wer sicherstellen will, dass nichts den Rechner verlässt, schaltet die Cloud-Funktionen laut Doku über die Umgebungsvariable OLLAMA_NO_CLOUD=1 oder die Option disable_ollama_cloud in ~/.ollama/server.json ab; im Log erscheint dann „Ollama cloud disabled: true“.

Hardware: die eigentliche Hürde

Ein Sprachmodell muss in den Arbeitsspeicher bzw. den Grafikspeicher passen. Laut Ollama-Dokumentation lädt die Software ein Modell bevorzugt komplett auf die Grafikkarte; passt es nicht, wird es auf mehrere GPUs oder auf CPU und Arbeitsspeicher verteilt – das funktioniert, ist aber deutlich langsamer. Mit dem Befehl ollama ps siehst du, ob ein Modell zu 100 % auf der GPU läuft. Daraus folgen drei praktische Regeln:

Kleinere Modelle (wenige Milliarden Parameter) laufen auch auf gut ausgestatteten Laptops, große Modelle brauchen viel Speicher.
Rechner mit viel gemeinsamem Arbeitsspeicher oder eine Grafikkarte mit viel VRAM sind im Vorteil.
Ein größeres Kontextfenster (Standard bei Ollama: 4.096 Tokens) kostet zusätzlichen Speicher. Lange PDFs passen daher nicht automatisch.

Konkrete Empfehlungen für bestimmte Rechner geben wir nicht, weil wir keine eigenen Messungen haben. Teste mit einem kleinen Modell und steigere dich.

Wofür lokale KI im Freelancer-Alltag taugt

Vertrauliche Texte zusammenfassen, etwa Vertragsentwürfe oder interne Protokolle.
Daten vorab anonymisieren, bevor sie an einen leistungsfähigeren Cloud-Dienst gehen (siehe Kundendaten anonymisieren).
Entwürfe umformulieren und Rohnotizen strukturieren.
Automationen, bei denen viele kleine Texte verarbeitet werden und Cloud-Kosten pro Aufruf ins Gewicht fallen würden.

Weniger geeignet ist lokale KI, wenn du die stärksten verfügbaren Modelle, aktuelle Websuche oder lange Dokumente mit großem Kontext brauchst. Hier sind Cloud-Dienste wie Mistral Vibe, Claude oder ChatGPT in der Regel überlegen – dann aber mit den bekannten Datenschutzfragen.

Sicherheit und Lizenzen nicht vergessen

Ollama lauscht standardmäßig nur auf 127.0.0.1, also nur auf dem eigenen Rechner. Wer den Server über OLLAMA_HOST im Netzwerk freigibt oder per Tunnel erreichbar macht, öffnet eine Schnittstelle, die ohne weitere Absicherung jeder im Netz nutzen könnte. Außerdem gilt: Die Software ist kostenlos, die Modelle haben aber eigene Lizenzen. Prüfe vor geschäftlicher Nutzung die Lizenzbedingungen des jeweiligen Modells. Für Modelle chinesischer Anbieter lohnt zusätzlich ein Blick in den Ratgeber DeepSeek und Datenschutz – lokal betrieben fließen zwar keine Daten ab, inhaltliche Einschränkungen des Modells bleiben aber bestehen.

Einstieg in fünf Schritten

LM Studio oder Ollama von der offiziellen Website installieren.
Ein kleines, aktuelles Modell herunterladen und mit einer typischen Aufgabe ausprobieren.
Bei Ollama Cloud-Funktionen abschalten, wenn nur lokal gearbeitet werden soll.
Prüfen, ob das Modell vollständig auf der GPU läuft und ob die Geschwindigkeit reicht.
Festlegen, welche Aufgaben lokal und welche in der Cloud erledigt werden, und das im eigenen Datenschutz-Konzept notieren.

Anbieterseiten

Redaktionelle Links ohne Provision.

Ollama öffnen Profil
Mistral Vibe öffnen Profil

FAQ

Ist lokale KI wirklich kostenlos?

Die Software Ollama ist quelloffen und lokal kostenlos, LM Studio ist laut Anbieter für private und berufliche Nutzung kostenlos. Kosten entstehen durch Hardware und Strom sowie bei Ollama-Cloud-Modellen über Abos oder Credits.

Gehen bei Ollama Daten ins Internet?

Lokal ausgeführte Modelle verarbeiten Prompts laut Ollama auf deinem Rechner. Für Cloud-Modelle werden Prompts an Server übertragen. Die Cloud-Funktionen lassen sich abschalten.

Brauche ich eine Grafikkarte?

Nicht zwingend, aber das Modell sollte in den Grafikspeicher passen, damit es schnell läuft. Auf CPU und Arbeitsspeicher funktioniert es ebenfalls, nur langsamer.

Sind lokale Modelle so gut wie ChatGPT?

Das hängt vom Modell und der Aufgabe ab. Für viele Routineaufgaben reichen kleinere Modelle, für komplexe Analysen sind große Cloud-Modelle meist stärker. Eine eigene Bewertung geben wir nicht ab.

Darf ich lokal erzeugte Texte kommerziell nutzen?

Das richtet sich nach der Lizenz des jeweiligen Modells. Prüfe sie vor dem geschäftlichen Einsatz.