Was ist Ollama?
Ollama ist der einfachste Weg KI-Modelle lokal zu betreiben. Ein Befehl, ein Modell läuft. Kein Python-Setup, kein venv, keine CUDA-Treiber. Einfach installieren und los.
Im Hintergrund verwaltet Ollama alle Modelle, lädt sie bei Bedarf in den RAM und stellt eine REST-API bereit — auf die dann Open WebUI zugreift.
Was ist Open WebUI?
Open WebUI ist eine Browser-Oberfläche die identisch zu ChatGPT aussieht — nur läuft sie auf deinem Rechner. Konversationshistorie, Einstellungen, Modellwechsel — alles da. Komplett kostenlos, open source, keine Cloud.
Schritt-für-Schritt-Anleitung
Ollama installieren
Terminal öffnen (Spotlight → Terminal) und einen Befehl eingeben:
curl -fsSL https://ollama.com/install.sh | sh
# Danach prüfen ob es läuft:
ollama --version
Erstes Modell herunterladen
Wir starten mit einem schnellen 7B-Modell zum Testen:
ollama pull mistral
# Direkt testen:
ollama run mistral
Docker installieren
Open WebUI läuft als Docker-Container. Docker Desktop von docker.com herunterladen und installieren. Einmalig, dann läuft es automatisch.
Open WebUI starten
Einen einzigen Befehl ausführen — danach nie wieder anfassen:
--add-host=host.docker.internal:host-gateway
-v open-webui:/app/backend/data
--name open-webui
--restart always
ghcr.io/open-webui/open-webui:main
Im Browser öffnen
Browser öffnen, Adresse eingeben — fertig:
# Vom Heimnetz (Handy/Laptop):
http://192.168.x.x:3000
Modelle herunterladen
Nach dem Setup empfehle ich diese Reihenfolge — je nach verfügbarem RAM:
| Modell | Größe | RAM nötig | Empfohlen für |
|---|---|---|---|
| ollama pull mistral | 4 GB | 8 GB | Einstieg, schnell |
| ollama pull llama3.2 | 2 GB | 8 GB | Allgemein, schnell |
| ollama pull qwen2.5:32b | 20 GB | 24 GB | Beste Qualität |
| ollama pull deepseek-r1:14b | 9 GB | 16 GB | Reasoning, Logik |
| ollama pull qwen2.5-coder:7b | 4,5 GB | 8 GB | Code schreiben |
Autostart — läuft automatisch nach Neustart
Ollama startet auf dem Mac automatisch beim Login. Docker und der Open-WebUI-Container starten ebenfalls automatisch wenn Docker so konfiguriert ist. Du musst nichts tun — nach einem Neustart ist alles wieder da.
Nächste Schritte
Du hast jetzt eine vollständige lokale KI-Umgebung. Was als nächstes?
- Mikrofon anschließen + Whisper einrichten → Mikrofon-Guide
- Modelle ausprobieren — qwen2.5:32b ist die erste Anlaufstelle für Qualität
- Open WebUI Einstellungen erkunden — System-Prompts, Modellauswahl, History
- Von Handy/Laptop im Heimnetz zugreifen über die IP-Adresse des Mac Mini