Der unauffälligste Weg zu einer eigenen KI steht bei vielen schon auf dem Schreibtisch. Macs mit Apple Silicon teilen sich den Arbeitsspeicher zwischen Prozessor und Grafikeinheit — genau das, was große Sprachmodelle brauchen. Ein Gerät mit 16 GB führt kleinere Modelle flüssig aus; mit 32 oder 64 GB wird daraus ein ernstzunehmender KI-Arbeitsplatz, ganz ohne Cloud.
Werkzeug wählen: zwei gute Wege
LM Studio ist der freundlichste Einstieg: eine Desktop-Anwendung, in der Sie Modelle durchsuchen, herunterladen und in einer Chat-Oberfläche verwenden. Die Anwendung zeigt vor dem Download an, ob ein Modell in Ihren Arbeitsspeicher passt — das nimmt Anfängern die häufigste Fehlerquelle ab. Auf Wunsch stellt LM Studio das Modell auch als lokalen Server bereit, sodass andere Programme es ansprechen können.
Ollama ist das Gegenstück für die Kommandozeile: ein Befehl zum Herunterladen, einer zum Starten. Wer Modelle in eigene Skripte oder Werkzeuge einbinden will, ist hier richtig. Unter der Haube nutzen beide dieselbe Technik; die Wahl ist Geschmackssache, nicht Glaubensfrage.
Beide Werkzeuge greifen auf denselben offenen Modellbestand zu — Llama, Mistral, Qwen, Gemma und viele mehr, in Dutzenden Größen und Varianten.
Welches Modell passt in welchen Mac
Die Modelle liegen quantisiert vor, also verlustbehaftet komprimiert. Als grobe Orientierung für den Alltag:
- 16 GB RAM — Modelle bis etwa 8 Milliarden Parameter: flüssig und für Zusammenfassungen, E-Mail-Entwürfe und einfache Fragen gut brauchbar.
- 32 GB RAM — Modelle um 12 bis 30 Milliarden Parameter: spürbar souveräner bei längeren Texten und komplexeren Aufgaben.
- 64 GB und mehr — große Modelle ab 70 Milliarden Parameter: hier wird die Qualität für viele Büroaufgaben von einem Cloud-Dienst kaum noch unterscheidbar.
Wichtiger als die reine Größe ist die Passung: Ein mittelgroßes Modell, das vollständig im Speicher liegt, arbeitet angenehmer als ein großes, das nicht hineinpasst.
Der erste Nachmittag
- LM Studio installieren (oder Ollama, wenn Sie das Terminal bevorzugen).
- Ein mittelgroßes Modell laden, das die Anwendung für Ihren Speicher empfiehlt.
- Echte, aber unkritische Arbeitsaufgaben stellen: einen Bericht zusammenfassen, ein Schreiben entwerfen, einen Vertragsentwurf erklären lassen.
- Danach das WLAN abschalten und weiterarbeiten. Es funktioniert weiter — das ist der Punkt.
Was das ersetzt und was nicht
Realistisch betrachtet ersetzt ein lokales Modell den Cloud-Chat für einen erheblichen Teil der täglichen Schreib- und Verständnisarbeit — und zwar für den Teil, bei dem Vertrauliches im Spiel ist, das ohnehin nie in einen fremden Dienst gehört hätte. Für die schwierigsten Aufgaben bleibt der Abstand zu den kommerziellen Spitzenmodellen sichtbar.
Interessant wird es im nächsten Schritt: Derselbe lokale Server, den LM Studio oder Ollama bereitstellen, ist die Grundlage für ein System, das Fragen auf dem eigenen Dokumentenbestand beantwortet. Aus einem Experiment auf dem Schreibtisch wird dann Infrastruktur — im eigenen Haus, unter eigener Kontrolle.
