edge//runner · So geht's

Deine Firmendaten müssen nicht zu OpenAI. So läuft KI komplett auf deinem Mac.

Lokal heißt: Das Modell läuft auf deinem Rechner. Deine Texte gehen nicht an einen Anbieter, nichts kostet pro Anfrage, und nach dem Download geht es auch ohne Internet. Ein Haken ist, dass lokale Modelle kleiner sind als die großen aus der Cloud. Hier steht, wie du es ausprobierst und wo die Grenze liegt.

Was drin ist

Variante 1: in zehn Minuten lokal, mit einer kostenlosen App
Variante 2: was ich selbst nutze (und warum das nicht dein Anfang ist)
Welches Modell zu welchem Mac passt, als Faustregel
Was lokal gut geht und was nicht

Variante 1: In 10 Minuten

Ich nehme Ollama. Es ist kostenlos, läuft auf dem Mac und lädt Modelle mit einem Befehl. Ich nutze es auf einem Mac mit Apple-Chip. Du brauchst etwas Platz auf der Platte (ein Modell hat einige Gigabyte).

So geht's

Ollama von der offiziellen Seite laden und installieren (Link unten), oder per Befehl im Terminal.
Terminal öffnen (Spotlight: „Terminal“) und das Modell starten. Beim ersten Mal wird es geladen.
Schreib los. Mit /bye beendest du das Gespräch.

Link: Ollama herunterladen

https://ollama.com/download

Oder, wenn du lieber im Terminal installierst:

Terminal: Installation

curl -fsSL https://ollama.com/install.sh | sh

Dann das erste Modell. Es ist klein genug für fast jeden Mac:

Terminal: Modell starten

ollama run gemma4:e2b

Wenn du ein größeres Modell willst, tausche den Namen aus (Tabelle unten). Den Download startest du auch ohne Chat mit ollama pull <name>.

Variante 2: Was ich selbst nutze

Mein Mac hat 128 GB Arbeitsspeicher. Darauf läuft DeepSeek V4 Flash in einer stark verkleinerten Fassung (284 Milliarden Parameter, quantisiert auf 2 Bit) über das Programm ds4 von antirez. Es belegt rund 81 GB im Speicher, schreibt etwa 32 Wörter-Bruchstücke (Token) pro Sekunde und hat 64.000 Token Kontext. Bedient wird es über OpenCode, eine Oberfläche für Chat und Code.

Ehrlich gesagt ist das nicht dein Einstieg. Das ist ein Rechner, der ein Vielfaches eines Standard-Macs kostet, und die Einrichtung dauert deutlich länger als zehn Minuten. Für den Anfang bringt dir Variante 1 fast alles, was du zum Ausprobieren brauchst.

Welches Modell für welchen Mac

Faustregel: Das Modell muss in den Arbeitsspeicher passen, und für macOS und deine anderen Programme bleiben ein paar Gigabyte übrig. Die Größen unten stammen von der Modellseite bei Ollama (Stand 17.10.2026) und schwanken je nach Fassung. Fang eine Stufe kleiner an, als die Tabelle erlaubt.

Arbeitsspeicher	Modell zum Start	Download
8 GB	gemma4:e2b	ca. 5 bis 7,5 GB
16 GB	gemma4:e4b	ca. 7 bis 9,5 GB
32 GB	gemma4:26b	ca. 16 bis 19 GB
64 GB und mehr	gemma4:31b	ca. 19 bis 20 GB

Wie viel Arbeitsspeicher dein Mac hat, siehst du im Apfel-Menü oben links unter „Über diesen Mac“. Ein Modell, das fast den ganzen Speicher füllt, läuft zäh. Dann geh eine Stufe runter.

Was lokal gut kann und was nicht

Gut geeignet

Texte umschreiben, kürzen, übersetzen, Entwürfe für Mails.
Interne Dokumente zusammenfassen, bei denen nichts nach außen soll.
Ideen sammeln und Texte sortieren.

Schwächer

Kleine Modelle machen mehr Fehler und erfinden eher Dinge als die großen aus der Cloud. Prüf Fakten nach.
Lange Dokumente und große Kontexte brauchen viel Speicher und werden langsam.
Das Modell weiß nichts nach seinem Trainingsstand und hat von sich aus keinen Internetzugang.
Wie gut es auf Deutsch schreibt, unterscheidet sich je nach Modell. Teste es mit einem eigenen Text, bevor du dich festlegst.

Lokal ist für Firmendaten ein gutes Argument, ersetzt aber nicht die Frage, welche Daten überhaupt in eine KI gehören. Wenn es um Kundendaten oder Gesundheitsdaten geht, kläre das mit deiner Datenschutzperson.

Quelle für Befehle und Modelle: docs.ollama.com/quickstart und ollama.com/library/gemma4.

Eigener Videoraum statt ZoomLiveKit, Wartezimmer, Link mit Schlüssel, was es kostet und woran ich gescheitert bin.

Alle Seiten der Werkzeugkiste

Umsetzen lassen?

Wenn du das lieber nicht selbst baust: schreib mir kurz.