Setup · Checkliste · Interaktiv

Dein KI-Setup
Schritt für Schritt

Fortschritt wird gespeichert 5 Phasen ~2–3 Stunden Setup
// Fortschritt 0 / 28 erledigt
Phase 1: Hardware Phase 2: System Phase 3: Ollama Phase 4: Modelle Phase 5: Open WebUI
🖥️

Phase 1: Hardware beschaffen

Einmalig · ~1–2 Wochen Lieferzeit
0/5
✓
Hardware-Entscheidung getroffen
Mac Mini M4 (16 GB empfohlen) oder Alternative gewählt. Für 32B-Modelle: 24 GB wählen.
→ Hardware-Vergleich lesen
✓
Hardware bestellt / vorhanden
Mac Mini M4 über Amazon oder Apple Store. Amazon oft günstiger, Apple-Store für Konfigurationsoptionen.
→ Mac Mini M4 bei Amazon *
✓
Monitor / Bildschirm vorhanden
Für den Mac Mini brauchst du einen externen Monitor (HDMI oder USB-C/Thunderbolt). Oder: nur über Netzwerk / SSH betreiben.
✓
Hardware aufgebaut & eingeschaltet
Mac Mini anschließen, einschalten, macOS-Setup abschließen (Sprache, Apple-ID, iCloud nach Wunsch).
✓
Netzwerkverbindung stabil
LAN-Kabel empfohlen für zuverlässiges Setup. Modell-Downloads sind mehrere GB — instabiles WLAN kann Probleme machen.
⚙️

Phase 2: System vorbereiten

~20 Minuten
0/5
✓
macOS aktuell (Sequoia oder neuer)
Systemeinstellungen → Allgemein → Softwareaktualisierung. Neueste macOS-Version bringt beste Metal-Unterstützung für KI.
✓
Xcode Command Line Tools installiert
Terminal öffnen und ausführen:
xcode-select --install
✓
Homebrew installiert (optional, aber empfohlen)
Paketmanager für macOS. Macht viele Tools einfacher installierbar.
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
✓
Ausreichend freier Speicher (min. 50 GB)
Modelle brauchen Platz: 7B-Modell ~4 GB, 32B-Modell ~20 GB. Prüfen: Apple → Über diesen Mac → Speicher.
✓
Energiesparoptionen angepasst
Systemeinstellungen → Batterie → "Automatisch in Ruhezustand" deaktivieren, wenn der Mac als dauerhafter Server läuft.
🦙

Phase 3: Ollama installieren

~5 Minuten
0/6
✓
Ollama heruntergeladen
Direkt von ollama.com herunterladen — kostenlos, Open Source.
→ ollama.com
✓
Ollama installiert & gestartet
DMG öffnen, Ollama in Programme-Ordner ziehen, starten. Das Lama-Symbol erscheint in der Menüleiste.
✓
Ollama läuft — Test im Terminal
Terminal öffnen und testen:
ollama --version
✓
Ollama im Autostart aktiviert
Systemeinstellungen → Allgemein → Anmeldeobjekte → Ollama hinzufügen. Startet dann automatisch beim Login.
✓
Ollama API erreichbar
Im Browser prüfen — sollte "Ollama is running" zeigen:
http://localhost:11434
✓
Netzwerkzugang für Ollama (optional)
Soll Ollama auch von anderen Geräten im Netzwerk erreichbar sein? Dann Environment Variable setzen:
OLLAMA_HOST=0.0.0.0
→ Detaillierte Anleitung
🧠

Phase 4: KI-Modelle laden

~15–60 Minuten Download (je nach Modell)
0/7
✓
Erstes Modell laden: Llama 3.2 3B (Test)
Klein, schnell, ideal zum Testen ob alles funktioniert (~2 GB Download):
ollama pull llama3.2:3b
✓
Erstes Gespräch im Terminal
Funktioniert! Erster Test ob das Modell antwortet:
ollama run llama3.2:3b
✓
Haupt-Modell laden: Qwen2.5 7B
Empfohlen für 16-GB-Mac. Sehr gut für Deutsch, schnell, 4.7 GB:
ollama pull qwen2.5:7b
✓
Starkes Modell laden: Qwen2.5 32B (für 24+ GB RAM)
Nur wenn 24 GB RAM vorhanden. Sehr gut für komplexe Aufgaben (~20 GB Download):
ollama pull qwen2.5:32b
✓
Code-Modell laden (optional): Qwen2.5-Coder
Speziell für Programmierung, deutlich besser als General-Purpose-Modelle bei Code:
ollama pull qwen2.5-coder:7b
✓
Alle geladenen Modelle prüfen
Welche Modelle sind installiert?
ollama list
✓
Modell-Wahl für Anwendungsfall klar
Welches Modell für welchen Zweck? Für Alltag: 7B. Für komplexe Texte: 32B. Für Code: Coder-Variante.
→ Modelle-Guide lesen
🖥️

Phase 5: Open WebUI einrichten

~10–20 Minuten · Optionaler Komfort-Schritt
0/5
✓
Docker Desktop installiert
Open WebUI läuft am einfachsten via Docker. Docker Desktop herunterladen und installieren:
→ Docker Desktop herunterladen
✓
Open WebUI starten
Docker muss laufen. Dann im Terminal:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
✓
Open WebUI im Browser öffnen
Browser öffnen und aufrufen. Admin-Account erstellen (lokaler Account, kein Internet nötig):
http://localhost:3000
✓
Ollama-Verbindung in Open WebUI prüfen
Oben rechts Modell-Dropdown öffnen — deine installierten Modelle sollten erscheinen. Wenn nicht: Admin → Settings → Connections prüfen.
✓
Erster Chat im WebUI — Setup abgeschlossen!
Gespräch starten, Modell wählen, erste Frage stellen. Willkommen bei deiner lokalen KI.
→ Was kann ich jetzt damit machen?
🎉

Setup abgeschlossen!

Dein lokales KI-System läuft. Du hast jetzt volle Kontrolle über deine KI — keine Abonnements, keine Cloud, keine Datenweitergabe.


→ Was kann ich damit machen?