Lokale LLMs für den Mac Mini

Diese Seite dokumentiert lokale Sprachmodelle, die auf einem Mac Mini mit 24 GB Unified Memory via Ollama betrieben werden können. Ziel: Praxiserfahrung mit lokaler KI sammeln, Stärken und Grenzen ausloten.

Stand: 4. August 2026

Google's neueste offene Modellfamilie (Apache 2.0). Multimodal (Text + Bild), nativ Audio bei den kleinen Varianten.

gemma4:e2b (2,3B effektiv)

• Stärken: Fliegt auf schwacher Hardware, Audio-nativ, 140+ Sprachen
• Schwächen: Simplistisch bei komplexen Aufgaben, kein Tool Use nativ
• Einsatz: Schnellantwort-Bot, einfache Klassifikation, Spickzettel-Abfragen
• Install:

  ollama pull gemma4:e2b

gemma4:e4b (4,5B effektiv — Standard)

• Stärken: Guter Allrounder, flott, Audio + Bild, Apache 2.0
• Schwächen: Kein Reasoning-Champion, stößt bei komplexer Logik an Grenzen
• Einsatz: FAQ-Bot, Zusammenfassungen, Leichte Code-Hilfe
• Install:

  ollama pull gemma4:e4b

gemma4:12b

• Stärken: Solider Mittelweg zwischen Geschwindigkeit und Hirn
• Schwächen: Kein MoE → voller Parameter-Satz immer aktiv → höherer RAM-Verbrauch als nötig
• Einsatz: Gute Wahl, wenn e4b zu leicht und 26b zu schwer ist
• Install:

  ollama pull gemma4:12b

gemma4:26b (MoE — ★ Empfohlen)

• Stärken: Bestes Preis-Leistungs-Verhältnis der Familie. Nur 3,8 Mrd. aktiv → schnell. 256K Kontext. Agentic-fähig
• Schwächen: Knapp in 24 GB — parallele Prozesse schwierig
• Einsatz: Primärer Alltags-Assistent, HA-Überwachung, Reasoning
• Install:

  ollama pull gemma4:26b

gemma4:31b (Dense)

• Stärken: Maximale Qualität, exzellent für Coding + Reasoning + lange Dokumente
• Schwächen: Füllt den RAM komplett aus — nichts läuft parallel, grenzwertig auf 24 GB
• Einsatz: Batch-Jobs über Nacht, Code-Review, komplexe Analysen
• Install:

  ollama pull gemma4:31b

Qwen3-30B-A3B (Denker)

• Stärken: Hervorragendes Reasoning, natives Tool Use, starkes Deutsch (>100 Sprachen), Denkmodus schaltbar
• Schwächen: Größer als Gemma 26B, braucht 20+ GB
• Einsatz: Offline-Clone für Gaston, HA-Automation, komplexe Entscheidungen
• Install:

  ollama pull qwen3:30b-a3b

Qwen3-Coder (30B — ★ Empfohlen für Code)

• Stärken: State-of-the-Art für lokale Code-Generierung, 92 Programmiersprachen, 256K Kontext, Shell-Scripting
• Schwächen: RAM-Hungrig (24 GB), nur für Code-Aufgaben optimiert
• Einsatz: Server-Administration, Gitea CI/Debugging, HA-Automation-Skripte
• Install:

  ollama pull qwen3-coder:30b

OpenEuroLLM-German (15 GB, 128K Kontext)

• Stärken: Muttersprachliches Deutsch — kein Übersetzer-Deutsch. Kulturell präzise. Apache 2.0
• Schwächen: Nur Deutsch/Englisch, kein Reasoning-Monster
• Einsatz: Lucie (muss korrektes Deutsch sprechen), DokuWiki, formelle Kommunikation
• Install:

  ollama pull jobautomation/OpenEuroLLM-German

Llama 3.2 Vision (11B, ~8 GB, 128K Kontext)

• Stärken: Bildanalyse on-device, leicht, flott
• Schwächen: 11B → begrenzte Reasoning-Tiefe
• Einsatz: HA-Kamerabilder analysieren, Screenshot-Verarbeitung
• Install:

  ollama pull llama3.2-vision:11b

DeepSeek-R1-Distill-Llama-70B (~35 GB Q3)

• Warum nicht: 70 Mrd. Parameter. Selbst mit extremer Quantisierung 35+ GB. Mac Mini erstickt
• Alternative: DeepSeek-R1 über Cloud (Bifrost/OpenRouter) bereits verfügbar

Mit 4 TB SSD ist Platz kein Thema — aber RAM ist die Grenze. Diese 3 decken 95% aller Anwendungsfälle ab:

1. **gemma4:26b** — Alltags-Assistent (16,9 GB, flott, 256K)
2. **qwen3-coder:30b** — Code & Admin (20 GB, nacheinander laden)
3. **OpenEuroLLM-German** — Perfektes Deutsch (15 GB)

Alle drei können nicht gleichzeitig laufen (zusammen ~52 GB), aber einzeln passen sie bequem in 24 GB.