So installierst du Ollama

Der Entwicklerfavorit für lokale LLMs: Ein Befehl lädt Llama, Qwen, Gemma, DeepSeek und mehr herunter und startet sie, mit integrierter API.

Textmodelle (LLMs)

Windows

Mac

Linux

Lizenz: MIT

Offizielle Seite

GitHub

Dokumentation

Was ist Ollama?

Ollama ist ein kostenloses Open-Source-Tool, das große Sprachmodelle lokal mit einem einzigen Befehl ausführt, zum Beispiel ollama run llama3. Es verwaltet Modelldownloads, GPU-Beschleunigung und eine lokale REST-API, mit der die meisten KI-Anwendungen kommunizieren können. Es begann als Kommandozeilen-Tool und bietet jetzt auch eine einfache Desktop-App mit Chatfenster für Mac und Windows und funktioniert mit vielen Drittanbieter-Interfaces wie Open WebUI.

Ollama ist für Entwickler, Bastler und alle, die ein lokales Modell als Backend für andere Software wollen. Wenn du eine voll ausgestattete Chat-Oberfläche sofort möchtest, ist LM Studio komfortabler, aber Ollama ist leichter und lässt sich gut skripten.

Was du brauchst

macOS 12 oder neuer (Apple Silicon empfohlen), Windows 10 oder 11 oder Linux. 8 GB RAM für 7B-Modelle, 16 GB für 13B, 32 GB für 33B; eine NVIDIA- oder AMD-GPU macht die Generierung viel schneller. Modelle benötigen jeweils 2 bis 40 GB.

So bekommst und installierst du Ollama

Lade Ollama von ollama.com für Mac oder Windows herunter und führe den Installer aus, oder auf Linux das Installationsskript von der Seite.
Öffne ein Terminal (oder die Ollama-App) und tippe ollama run llama3.2 (oder einen anderen Modellnamen von der Bibliotheksseite); das Modell wird heruntergeladen und ein Chat-Prompt erscheint.
Durchsuche die Modellbibliothek auf ollama.com nach Qwen, Gemma, Mistral, DeepSeek, Phi und Vision-Modellen, jeweils mit dem genauen Befehl zum Ausführen.
Optional: Installiere eine Weboberfläche wie Open WebUI, die sich mit Ollama verbindet und dir eine ChatGPT-ähnliche Seite im Browser bietet.

Lade nur über die offiziellen Links auf dieser Seite herunter. Installer von anderswo können veraltet oder manipuliert sein. ModelTrends.ai hostet keine Dateien.

So benutzt du Ollama

Chatte im Terminal oder im App-Fenster; tippe /bye, um einen Terminal-Chat zu beenden.
Liste heruntergeladene Modelle mit ollama list auf, entferne eines mit ollama rm name und lade ein neues mit ollama pull name.
Wähle ein Größentag passend zu deiner Hardware, z. B. qwen2.5:7b oder qwen2.5:14b; kleinere Tags laufen auf kleineren Maschinen.
Nutze die API unter http://localhost:11434 von deinen eigenen Skripten (sie ist OpenAI-kompatibel) oder richte Apps wie Open WebUI, Continue oder Zed darauf aus.
Erstelle ein benutzerdefiniertes Modell mit einer Modelfile, um einen System-Prompt und Parameter zu setzen, dann ollama create myname -f Modelfile.
Vision-Modelle (llava, llama3.2-vision, qwen2.5vl) akzeptieren Bilder: Ziehe eine Datei in den Chat oder übergebe den Pfad im Terminal.

Tipps und häufige Probleme

Setze OLLAMA_MODELS, um den Modellordner auf ein größeres Laufwerk zu verschieben.
Wenn die GPU nicht genutzt wird, prüfe, ob dein Treiber aktuell ist; ollama ps zeigt, ob ein Modell auf GPU oder CPU läuft.
Halte das Kontextfenster (num_ctx) bescheiden, außer du brauchst lange Dokumente; es hat den größten Einfluss auf den Speicher.
Ollama kann GGUF-Dateien importieren, die du selbst herunterlädst, über eine Modelfile mit einer FROM-Zeile, die auf die Datei zeigt.

Anleitungen für Ollama

Apps

Wie man Ollama installiert und eine lokale KI betreibt (Windows, Mac, Linux)

Du kannst eine ChatGPT-ähnliche KI kostenlos und offline auf deinem eigenen PC oder Mac laufen lassen, ohne Gebühren pro Token. Diese Anleitung zeigt, wie du Ollama installierst, welches Modell du für 8, 16, 24 oder 32 GB Speicher herunterladen solltest, wie du mit der KI chattest und was zu tun ist, wenn sie langsam ist oder der Speicher ausgeht.

Captain

11. Okt 2026

Apps

Ollama vs LM Studio (2026): Welche lokale KI-App soll man nutzen und welche Top-Modelle laufen auf jeder?

Ollama und LM Studio sind die zwei kostenlosen Möglichkeiten, eine ChatGPT-ähnliche KI auf deinem eigenen Computer laufen zu lassen, und beide unterstützen dieselben offenen Modelle. Ollama ist Open Source, leichtgewichtig und als Motor für andere Apps gedacht; LM Studio ist eine ausgereifte Desktop-App mit einem Modellbrowser und dem schnelleren Motor auf Apple Silicon Macs. Dieser Vergleich behandelt Geschwindigkeit, Mac-, NVIDIA- und AMD-Unterstützung, den lokalen Server, Coding-Agenten und Datenschutz sowie welche der diese Woche bestplatzierten offenen Modelle auf deiner Hardware laufen.

Captain

13. Okt 2026

Fehler & Lösungen

Was ist eine GGUF-Datei? Quantisierte Modelle erklärt (Q4, Q8, fp8, NF4)

Die Hälfte der Dateien auf einer Modellseite endet auf .gguf oder trägt Tags wie Q4_K_M, fp8 und NF4, und die einzige Frage ist, welche man herunterladen soll. GGUF ist ein Einzel-Datei-Container für quantisierte Gewichte, der auf llama.cpp, Ollama, LM Studio und ComfyUI läuft; die Buchstaben dahinter sagen, auf wie viele Bits jedes Gewicht komprimiert wurde. Diese Anleitung erklärt, was Quantisierung bewahrt und was verloren geht, entschlüsselt alle gängigen Endungen, gibt die Faustregel zur Größe pro Milliarde Parameter und sagt dir, welchen Quant du für Chat-Modelle, Flux, Qwen Image und Wan auf 8, 12, 16 und 24 GB wählen solltest.

Captain

26. Aug 2026

Modelle

Wie man im Oktober 2026 ein KI-Modell auswählt: Neuigkeiten zu Closed Source und dann die Open-Weights, die sich zum Download lohnen

Die Antwort im Oktober 2026 auf die Frage „Welches KI-Modell soll ich verwenden?“ in zwei klar getrennten Teilen: zuerst die Neuigkeiten und Preise der geschlossenen, tokenbasierten Mietmodelle (Claude Opus 5.5, GPT-6.1 Sol, Claude Sonnet 5.5, Grok 4.7, Gemini 3.8 Flash, GPT-6 Luna), dann das Gute: die Open-Weights-Modelle, die du herunterladen und selbst betreiben kannst (DeepSeek V4.1 Flash, GLM 5.3 Flash, Qwen3.8 Flash, MiMo-V2.6, Kimi K3, gpt-oss-120b, Gemma 4 über Ollama), mit Preis pro Million Tokens, für welche Aufgaben sie geeignet sind und was sich seit September geändert hat.

Lookout

7. Okt 2026

Modelle

Die 10 günstigsten ChatGPT-Alternativen 2026: kostenlose lokale Modelle, Gratis-Stufen und Flatrate-Tarife

Zehn Möglichkeiten, einen fähigen KI-Assistenten günstiger als ein ChatGPT-Abo zu bekommen, sortiert nach dem, was du tatsächlich zahlst: offene Modelle auf deinem eigenen PC mit Ollama oder LM Studio, die kostenlosen Stufen von DeepSeek, Mistral, Google AI Studio und Qwen, Hugging Face Chat, OpenRouter's kostenlose Routen, ein Telegram-Bot mit offenen LLMs in einem Flatrate-Plan für Bild und Video, und was jede Option gut oder schlecht kann.

Lookout

4. Feb 2026

Modelle, die du in Ollama ausführen kannst

Ollama führt die offenen Textmodelle unter Text / LLM in diesem Katalog aus, die in seiner Bibliothek veröffentlicht oder als GGUF-Dateien verfügbar sind, darunter Llama, Qwen, Gemma, Mistral, DeepSeek und die meisten anderen.

Text / LLM-Modelle

Links

Diese Links führen zu den Seiten der Hersteller. ModelTrends.ai ist nicht mit ihnen verbunden und hostet keine Software.

Weitere lokale Apps

So installierst du ComfyUI

Die node-basierte Kraftzentrale für Stable Diffusion, Flux, Wan Video und fast jedes neue Open-Source-Modell. Kostenlos, Open Source, für Windows, Mac und Linux.