Ollama
Lokaler Modell-Manager
Das einfachste Tool um KI-Modelle lokal zu betreiben. Ein Befehl installiert Ollama, ein weiterer lädt ein Modell. Läuft auf Mac, Linux und Windows. Stellt eine lokale REST-API bereit (Port 11434) auf die Open WebUI und andere Tools zugreifen. Unsere komplette Anleitung:
Ollama + Open WebUI →
Tool
Open Source KI
Offene KI-Modelle
Modelle deren Gewichte öffentlich verfügbar sind — zum Download, lokalen Betrieb und Anpassen. Llama, Qwen, Mistral, Gemma, Phi sind Open Source (mit unterschiedlichen Lizenzen). Vorteil: Datenschutz, kein Abo, lokaler Betrieb, anpassbar. Nachteil: Technische Hürde, kein Support. Der Abstand zu proprietären Modellen schrumpft rasant.
Konzept
Open WebUI
Lokales ChatGPT-Interface
Eine Browser-Oberfläche für Ollama die identisch zu ChatGPT aussieht. Läuft als Docker-Container auf Port 3000. Konversationshistorie, Modellauswahl, System-Prompts, Dateien hochladen — alles lokal, kein Account. Im Heimnetz von jedem Gerät erreichbar.
Anleitung →
Tool