Ollama auf Deutsch: Welche lokalen Modelle gutes Deutsch schreiben (Stand November 2026)

Ollama auf Deutsch: Welche lokalen Modelle gutes Deutsch schreiben (Stand November 2026)

Von Christoph Kind ·

Artikel-Übersicht

Fast jeder Modellvergleich für Ollama misst auf Englisch. Wer lokal deutsche Texte schreiben, Protokolle zusammenfassen oder E-Mails übersetzen will, erfährt daraus wenig. Die gute Nachricht vorweg: Es gibt inzwischen ein öffentliches, regelmäßig gepflegtes Leaderboard für Deutsch, und die aktuellen Modelle von Qwen, Google und Mistral liegen dort erstaunlich dicht an kleineren Cloud-Modellen. Die schlechte: Die meisten europäischen „Deutsch-Modelle" sind diesen Modellen inzwischen unterlegen und laufen unter Ollama nur als Community-Upload.

Dieser Artikel geht die Frage in fünf Schritten durch. Zuerst die kurze Antwort, sortiert nach Speicherklasse. Dann, woher man überhaupt weiß, wie gut ein Modell Deutsch kann, und warum man Benchmarks hier besonders vorsichtig lesen muss. Danach die Modellfamilien im Einzelnen, die europäischen Modelle und Empfehlungen nach Aufgabe: Texte schreiben, Zusammenfassen, Chat, Übersetzen. Zum Schluss fünf Tests, mit denen du die Deutschqualität selbst prüfst, und die Einstellungen, die dabei den größten Unterschied machen. Grundlage sind das deutsche Leaderboard von EuroEval, die Modellkarten der Hersteller auf Hugging Face und die Ollama-Library, alles abgerufen am 4. November 2026.

Die allgemeine Frage, welches Modell auf welche Hardware passt und wie viel Speicher Kontext und Quantisierung kosten, behandle ich hier nicht noch einmal. Sie steht ausführlich in Welches Ollama-Modell? Auswahl nach Hardware und Zweck. Wenn Ollama noch nicht läuft, hilft Ollama installieren, und wer eine Chat-Oberfläche wie bei ChatGPT möchte, findet sie in Lokale ChatGPT-Alternative mit Open WebUI und Ollama. Messwerte zur Geschwindigkeit auf einer RTX 4090 stehen in Lokale LLMs auf der RTX 4090: Benchmarks mit Ollama und vLLM.

Die kurze Antwort

Für gutes Deutsch unter Ollama sind im November 2026 drei Familien die erste Wahl: Qwen (3.5, 3.6, 3.8), Gemma 4 und Mistral (Small 3.2, Ministral 3). Welche Größe, entscheidet dein Speicher. Die Größenangaben sind die Downloadgrößen der Standard-Tags laut Ollama-Library; wie viel Reserve du für den Kontext einplanen musst, steht im Hardware-Artikel.

Speicher Erste Wahl Alternative Download
8 GB qwen3.5:9b ministral-3:8b, gemma4:e4b 6,0–6,6 GB
12–16 GB gemma4:12b ministral-3:14b 7,7–9,1 GB
24 GB qwen3.8:27b gemma4:31b, mistral-small3.2:24b 15–19 GB
48 GB und mehr qwen3.8:27b mit viel Kontext gemma4:31b-it-q8_0 (34 GB) 18–34 GB

Zwei Dinge fallen an dieser Tabelle auf. Erstens: Über 24 GB wird es für Deutsch nicht automatisch besser. Im deutschen EuroEval-Leaderboard liegen die 24- bis 31-Milliarden-Modelle gleichauf mit oder vor deutlich größeren wie gpt-oss:120b. Mehr Speicher kaufst du dir dann eher für längeren Kontext als für besseres Deutsch. Zweitens: Kein einziges ausdrücklich deutsches oder europäisches Modell steht in der Tabelle. Warum, steht weiter unten.

Wenn du nur einen Befehl mitnehmen willst:

ollama pull qwen3.5:9b      # bis 8 GB
ollama pull gemma4:12b      # 12-16 GB
ollama pull qwen3.8:27b     # 24 GB

Woher man weiß, wie gut ein Modell Deutsch kann

Belastbar sind derzeit vor allem zwei Quellen: das deutsche Leaderboard von EuroEval und die mehrsprachigen Benchmarks in den Modellkarten der Hersteller. Beide haben Schwächen, und beide messen nicht genau das, was du im Alltag spürst: ob ein Text sich anfühlt, als hätte ihn ein Mensch geschrieben.

EuroEval: das deutsche Leaderboard

EuroEval ist ein offenes Benchmark-Projekt für über 30 europäische Sprachen. Für Deutsch prüft es laut Projektkonfiguration unter anderem Stimmungserkennung (SB10k), Eigennamenerkennung (GermEval), grammatische Korrektheit (ScaLA), Leseverstehen (GermanQuAD), Zusammenfassen (MLSUM), Wissen (MMLU auf Deutsch) und Alltagslogik (HellaSwag auf Deutsch). Aus allen Aufgaben bildet es einen Rank Score: je niedriger, desto besser.

Drei Einschränkungen gehören dazu:

  • Gemessen werden die Originalgewichte, meist in BF16 oder FP8, nicht die Q4-Fassungen, die Ollama standardmäßig lädt. Bei 4-Bit-Quantisierung verliert ein Modell etwas, bei kleinen Modellen tendenziell mehr. Was die Stufen bedeuten, steht in Quantisierung von LLMs erklärt.
  • Viele neue Modelle sind mit „(val)" markiert. Laut FAQ von EuroEval wurden sie nur auf den Validierungsdaten geprüft, nicht auf den Testdaten. Die Werte geben ein Signal, sind aber nicht streng mit den übrigen vergleichbar.
  • Die Unterschiede in der Spitzengruppe sind klein. Die Werte tragen eine Unsicherheit von etwa ±0,15 bis ±0,2. Ein Abstand von 0,05 ist kein Beleg dafür, dass ein Modell besser ist.

Herstellerangaben

Qwen, Google und OpenAI veröffentlichen Mehrsprachigkeitswerte, am häufigsten MMMLU: eine von Menschen übersetzte Fassung des Wissenstests MMLU in 14 Sprachen, Deutsch eingeschlossen. Nur OpenAI weist für gpt-oss den deutschen Wert einzeln aus. Qwen und Google nennen Durchschnitte über alle Sprachen. Das sagt etwas über Mehrsprachigkeit insgesamt, aber nicht gezielt über Deutsch, und es misst Wissen, nicht Ausdruck.

Für Stil, Satzbau und Tonfall gibt es keinen Benchmark, dem ich trauen würde. Deshalb steht am Ende dieses Artikels ein Testabschnitt.

Die Modellfamilien im Überblick

Im deutschen EuroEval-Leaderboard liegen Qwen3.8 27B, Qwen3.6 27B und Gemma 4 31B in derselben Spitzengruppe wie Llama 3.1 70B und mehrere kleinere Cloud-Modelle. Die Tabelle zeigt die Modelle, die es in der Ollama-Library gibt, mit dem Wert aus dem generativen Leaderboard (abgerufen am 4. November 2026).

Ollama-Tag Download EuroEval-Modell Rank Score (DE)
qwen3.8:27b 18 GB Qwen3.8-27B (val) 1,73
qwen3.6:27b 18 GB Qwen3.6-27B-FP8 (val) 1,74
gemma4:31b 19 GB gemma-4-31B-it (val) 1,82
qwen3.5:35b 22 GB Qwen3.5-35B-A3B-FP8 (val) 1,83
mistral-small3.2:24b 15 GB Mistral-Small-3.2-24B-Instruct-2506 1,89
gemma4:12b 7,7 GB gemma-4-12B-it (val) 2,02
gemma4:26b 16 GB gemma-4-26B-A4B-it (val) 2,08
gpt-oss:120b 65 GB gpt-oss-120b (val) 2,10
gemma3:27b 17 GB gemma-3-27b-it 2,17
ministral-3:14b 9,1 GB Ministral-3-14B-Instruct-2512 (val) 2,22
qwen3.5:9b 6,6 GB Qwen3.5-9B (val) 2,30
gpt-oss:20b 14 GB gpt-oss-20b, Denkstufe medium 2,32
ministral-3:8b 6,0 GB Ministral-3-8B-Instruct-2512 (val) 2,34
gemma4:e4b 6,6 GB gemma-4-E4B-it (val) 2,38
llama3.1:8b 4,9 GB Llama-3.1-8B-Instruct 2,50
aya-expanse:8b 5,1 GB aya-expanse-8b (val) 2,57
gemma4:e2b 4,6 GB gemma-4-E2B-it (val) 2,62
qwen3.5:4b 3,3 GB Qwen3.5-4B (val) 2,70

Zum Vergleich aus demselben Leaderboard: Llama-3.1-70B (Basismodell) 1,77, GPT-5.4 mini mit hoher Denkstufe 1,78, Claude Sonnet 4.5 ohne Thinking 1,79. Die Spitze bilden große Cloud-Modelle um 1,4. Die Cloud-Modelle sind zero-shot gemessen, die offenen Modelle mit Beispielen im Prompt, der Vergleich ist also nur grob. Llama 3.3 70B und Phi-4 sind nicht gelistet.

Was man daraus lesen kann:

  • Die 27-Milliarden-Klasse ist der Sweet Spot für Deutsch. Qwen3.8 und Qwen3.6 auf einer 24-GB-Karte spielen im deutschen Leaderboard in derselben Liga wie GPT-5.4 mini.
  • Gemma 4 12B ist das stärkste Modell unter 10 GB Download. Mit 2,02 liegt es vor dem zehnmal größeren gpt-oss-120b.
  • Mehr Denken hilft dem Deutsch nicht. gpt-oss-20b kommt mit mittlerer Denkstufe auf 2,32, mit hoher nur auf 2,87. Für Textarbeit ist eine niedrige Denkstufe oder abgeschaltetes Thinking meist die bessere Wahl.
  • Llama ist auf Deutsch nicht mehr vorn. Llama 3.1 8B liegt hinter allen aktuellen Modellen vergleichbarer Größe.

Qwen 3.5, 3.6 und 3.8

Qwen ist im November 2026 die sicherste Wahl für Deutsch auf jeder Speicherstufe. Qwen3.5 gibt es in der Ollama-Library von 0.8b bis 122b, Qwen3.6 und Qwen3.8 als 27b; Qwen3.6 zusätzlich als MoE-Variante 35b-a3b. Die Modellkarte von Qwen3.5 nennt 201 unterstützte Sprachen und Dialekte und einen MMMLU-Durchschnitt von 85,9 für das 27B-Modell und 81,2 für das 9B-Modell.

Für Qwen3.8 27B gibt es einen zweiten, deutschspezifischen Datenpunkt: In der Benchmark-Tabelle von Aleph Alpha zu Kolibri 1 erreicht es im deutschen Gesamtwert 79,9 Punkte, Kolibri selbst 70,8 und Qwen3.6 35B-A3B 67,3. Das sind Herstellerwerte eines Konkurrenten, aber gerade deshalb bemerkenswert. Die Einordnung steht im Artikel über Kolibri 1 von Aleph Alpha.

Ein Haken: Qwen3.8 denkt standardmäßig nach, bevor es antwortet. Für eine E-Mail oder eine Zusammenfassung kostet das Zeit, ohne dass der Text besser wird. Wie du das abschaltest, steht im Abschnitt zu den Einstellungen.

Gemma 4 und TranslateGemma

Gemma 4 ist die stärkste Alternative zu Qwen und in der 12-Milliarden-Klasse sogar vorn. Laut Modellkarte wurde es auf über 140 Sprachen vortrainiert und unterstützt „out of the box" mehr als 35. Google nennt MMMLU-Durchschnitte von 88,4 (31B), 86,3 (26B-A4B), 83,4 (12B) und 76,6 (E4B). In Ollama stehen die Tags e2b, e4b, 12b, 26b und 31b bereit, außerdem Fassungen mit Quantization-Aware Training (-it-qat), die für 4 Bit trainiert sind.

Für reine Übersetzungen gibt es mit translategemma eine spezialisierte Variante auf Basis von Gemma 3 in 4B, 12B und 27B für 55 Sprachen. Laut Google schlägt TranslateGemma 12B auf dem Übersetzungsbenchmark WMT24++ das allgemeine Gemma 3 27B. Es erwartet allerdings ein festes Prompt-Format, das auf der Ollama-Seite dokumentiert ist; für Chat ist es nicht gedacht.

Mistral Small 3.2 und Ministral 3

Mistral hat als europäischer Anbieter keinen deutschen Sonderbonus, liefert aber verlässlich gutes Deutsch. Die Ollama-Seiten von Mistral Small und Ministral 3 führen Deutsch ausdrücklich unter den unterstützten Sprachen. mistral-small3.2:24b hat nicht den „(val)"-Vermerk und ist damit eines der wenigen Modelle der Spitzengruppe, das vollständig auf den Testdaten gemessen wurde. Mit 15 GB passt es gut auf eine 24-GB-Karte und lässt Platz für Kontext.

ministral-3 gibt es als 3b, 8b und 14b, mit 256K Kontext laut Library. Im Leaderboard liegt das 8B-Modell knapp hinter Qwen3.5 9B. Wer für 8 GB eine Alternative zu Qwen sucht, etwa weil das Modell von einem europäischen Anbieter stammen soll, ist hier richtig.

gpt-oss, Llama, Phi und Aya

gpt-oss ist auf Deutsch solide, aber nicht seine Stärke. OpenAI weist in der Modellkarte die deutschen MMMLU-Werte einzeln aus: 83,0 für gpt-oss-120b und 78,7 für gpt-oss-20b, jeweils mit hoher Denkstufe. Im EuroEval-Leaderboard liegt das 120B-Modell hinter Gemma 4 12B. Für 65 GB Download ist das wenig.

Llama 3.3 70B führt Deutsch offiziell unter seinen acht unterstützten Sprachen, ist aber im deutschen Leaderboard nicht gelistet. Eine belegte Aussage zur Deutschqualität im Vergleich zu den aktuellen Modellen kann ich daher nicht machen. Für 43 GB würde ich es nur nehmen, wenn du es aus anderen Gründen schon im Einsatz hast.

Phi-4 scheidet für Deutsch aus. Microsoft schreibt in der Modellkarte selbst, das Modell sei vor allem auf Englisch trainiert, mehrsprachige Daten machten etwa 8 Prozent aus, und phi-4 sei „not intended to support multilingual use".

Aya Expanse von Cohere ist ausdrücklich auf 23 Sprachen trainiert, darunter Deutsch. Im Leaderboard liegt das 8B-Modell aber hinter Qwen3.5 9B und Ministral 3 8B, und Ollama nennt nur 8K Kontext. Laut Library wurden die Modelle zuletzt vor zwei Jahren aktualisiert.

Europäische und deutsche Modelle unter Ollama

Keines der europäischen Modelle mit Deutsch-Schwerpunkt hat einen offiziellen Eintrag in der Ollama-Library. Sie laufen über Community-Uploads oder direkt über GGUF-Dateien von Hugging Face. Ollama kann solche Dateien mit ollama run hf.co/<nutzer>/<repository>:<quantisierung> laden, laut der Dokumentation von Hugging Face.

Modell Herkunft Unter Ollama Deutsch belegt?
EuroLLM 22B Instruct EU-Projekt UTTER, Apache 2.0 GGUF über hf.co/, Q4_K_M 13,7 GB EuroEval 2,29, auf Höhe von Gemma 3 12B
EuroLLM 9B Instruct wie oben Community-Uploads EuroEval 2,61
Teuken-7B-instruct-v0.6 OpenGPT-X, Apache 2.0 Community-Uploads, GGUF auf Hugging Face EuroEval 3,23 (val), deutlich hinter aktuellen 4B-Modellen
SauerkrautLM VAGO solutions Community-Uploads keine aktuellen Werte; die letzten Chatmodelle stammen von 2024
Kolibri 1 Aleph Alpha, Apache 2.0 nur Community-Upload robit/kolibri-1 Herstellerwert DE 70,8; nicht bei EuroEval

Zu den einzelnen Modellen:

  • EuroLLM 22B ist das stärkste rein europäische Modell in diesem Feld, laut Modellkarte für 35 Sprachen trainiert, mit 32.768 Token Kontext. Im deutschen Leaderboard bleibt es aber hinter den aktuellen Modellen von Google, Qwen und Mistral derselben Größe. Für Übersetzungen nennt das Projekt Ergebnisse auf Augenhöhe mit Gemma 3 27B und Qwen 3 32B, die Zahlen stehen in der Modellkarte allerdings nur als Grafik.
  • Teuken war 2024 ein wichtiges Signal für europäische Modelle. Gegen die aktuelle Generation ist das 7B-Modell auf Deutsch klar unterlegen.
  • SauerkrautLM war lange die erste Adresse für deutsch nachtrainierte Llama- und Mistral-Modelle. Die letzten Chatmodelle (SauerkrautLM-v2-14b, Llama-3.1-SauerkrautLM-8b/70b) sind von 2024. Seitdem veröffentlicht VAGO vor allem Embedding- und Retrieval-Modelle sowie einen kleinen Übersetzer auf Basis von LFM2.5. Unabhängige Messungen der alten Chatmodelle gegen die aktuelle Generation habe ich nicht gefunden.
  • Kolibri 1 hat seit dem 17. Oktober 2026 Unterstützung im Hauptzweig von llama.cpp. Einen offiziellen Ollama-Eintrag gibt es weiterhin nicht. Ob der Community-Upload mit der aktuellen Ollama-Version ohne Anpassung läuft, habe ich nicht geprüft. Mit rund 48 GB als Q4_K_M-GGUF ist es ohnehin ein Modell für Rechner mit viel Arbeitsspeicher.

Ein Modell, das in Europa trainiert wurde, schreibt nicht automatisch besseres Deutsch. Wenn Herkunft und Lizenz für dich zählen, etwa in einer Behörde, sind EuroLLM und Kolibri echte Optionen. Wenn du einfach das beste Deutsch auf deiner Hardware suchst, sind sie es derzeit nicht.

Empfehlungen nach Aufgabe

Die Aufgabe verschiebt die Wahl weniger als der Speicher, aber an zwei Stellen deutlich: beim Zusammenfassen langer Texte und beim Übersetzen.

Aufgabe bis 8 GB 12–16 GB 24 GB
Texte schreiben qwen3.5:9b gemma4:12b qwen3.8:27b oder gemma4:31b
Zusammenfassen qwen3.5:9b ministral-3:14b mistral-small3.2:24b oder qwen3.8:27b
Chat ministral-3:8b oder qwen3.5:9b gemma4:12b qwen3.6:27b oder qwen3.8:27b
Übersetzen translategemma:4b translategemma:12b translategemma:27b oder gemma4:31b

Texte schreiben

Für eigene Texte zählen Satzbau, Wortwahl und ein Tonfall, der nicht nach übersetztem Englisch klingt. Das misst kein Benchmark sauber. Die Leaderboard-Spitze ist hier ein guter Startpunkt, die Entscheidung triffst du mit den Tests weiter unten. Bei Qwen und Gemma liegen die Werte so dicht beieinander, dass es sich lohnt, beide mit einem eigenen Text auszuprobieren.

Zusammenfassen

Hier ist nicht nur die Sprache entscheidend, sondern der Kontext. Ollama arbeitet laut FAQ standardmäßig mit 4.096 Token Kontext. Ein längeres Protokoll passt da nicht hinein. Ollama kürzt die Eingabe dann, und die Zusammenfassung beruht nur auf einem Teil des Textes, ohne dass du einen Hinweis bekommst. Wer zusammenfasst, setzt num_ctx hoch (siehe unten) und nimmt ein Modell, das bei langem Kontext nicht aus dem Speicher fällt. mistral-small3.2:24b lässt mit 15 GB auf einer 24-GB-Karte dafür mehr Raum als die 18- bis 19-GB-Modelle.

Chat

Im Chat zählen kurze Antwortzeiten mehr als die letzte Nuance. Thinking-Modelle wie Qwen3.8 fühlen sich mit eingeschaltetem Denkmodus zäh an. Ministral 3 und Gemma 4 antworten ohne Umweg. Wenn du den Chat über eine Oberfläche nutzen willst, steht die Einrichtung im Artikel zu Open WebUI und Ollama.

Übersetzen

Für reine Übersetzungen ist TranslateGemma die erste Wahl, weil es genau dafür trainiert ist. Laut Google erreicht schon die 4B-Variante das Niveau des allgemeinen Gemma 3 12B. Wichtig ist das Prompt-Format: Ausgangs- und Zielsprache mit Sprachcode, danach zwei Leerzeilen, dann der Text. Ein Beispiel für Englisch nach Deutsch:

ollama run translategemma:12b "You are a professional English (en) to German (de) translator. Your goal is to accurately convey the meaning and nuances of the original English text while adhering to German grammar, vocabulary, and cultural sensitivities. Produce only the German translation, without any additional explanations or commentary. Please translate the following English text into German:


The meeting has been moved to Thursday. Please bring the signed contract."

Für Übersetzungen, bei denen der Stil frei angepasst werden soll, etwa Marketingtexte, ist ein allgemeines Modell wie gemma4:31b oft flexibler.

Deutschqualität selbst testen

Fünf kurze Tests reichen, um die Deutschqualität eines Modells auf deiner Hardware in einer Viertelstunde einzuschätzen. Sie ersetzen keinen Benchmark, zeigen aber genau die Fehler, die im Alltag stören.

Illustration: Auf einer Holzwerkbank stehen fünf kleine Prüfgeräte aus Messing und Petrol nebeneinander, jedes wirft einen Lichtkegel auf ein Blatt Papier; vier Blätter leuchten grün, das mittlere orange, davor liegen eine Lesebrille und ein Bleistift

Illustration: Auf einer Holzwerkbank stehen fünf kleine Prüfgeräte aus Messing und Petrol nebeneinander, jedes wirft einen Lichtkegel auf ein Blatt Papier; vier Blätter leuchten grün, das mittlere orange, davor liegen eine Lesebrille und ein Bleistift

Fünf Prüfungen nebeneinander: Erst wenn ein Modell alle besteht, taugt es für deutsche Texte im Alltag.

Die fünf Tests

  1. Grammatik unter Druck. Bitte das Modell um einen Absatz mit Nebensätzen, Konjunktiv und Genitiv, etwa: „Schreib einen Absatz darüber, was passiert wäre, wenn der Zug pünktlich gewesen wäre, und verwende dabei den Genitiv mindestens zweimal." Achte auf Verbstellung, Kasus und Konjunktiv II. Schwache Modelle schreiben „wegen dem" oder stellen das Verb falsch.
  2. Komposita und Fachwörter. „Erkläre in drei Sätzen, was eine Betriebskostenabrechnung ist und wer sie erstellt." Fehler zeigen sich als erfundene Wörter, englische Einsprengsel oder falsche Zusammensetzungen.
  3. Register wechseln. Denselben Inhalt einmal als förmliche E-Mail mit „Sie" und einmal als Nachricht an einen Freund mit „du". Viele Modelle mischen die Anrede oder bleiben im zweiten Text steif.
  4. Zusammenfassen mit Kontrolle. Gib dem Modell einen deutschen Text, den du kennst, etwa ein eigenes Protokoll von zwei bis drei Seiten, und lass es in fünf Stichpunkten zusammenfassen. Prüfe: Steht etwas drin, das im Original nicht vorkommt? Fehlt der wichtigste Beschluss?
  5. Sprachtreue. Stell eine deutsche Frage mit einem englischen Fachbegriff, etwa „Was ist der Unterschied zwischen Rate Limiting und Throttling?" Die Antwort sollte vollständig auf Deutsch bleiben. Manche Modelle kippen nach ein paar Sätzen ins Englische. Die Qwen-Modellkarte warnt selbst, dass ein hoher presence_penalty zu Sprachmischung führen kann.

Als Bewertung reicht eine einfache Liste:

  • Grammatik fehlerfrei, Konjunktiv und Genitiv korrekt
  • keine erfundenen oder englischen Wörter
  • Anrede durchgehend konsistent
  • Zusammenfassung ohne erfundene Inhalte
  • Antwort bleibt vollständig auf Deutsch

Mehrere Modelle in einem Durchgang

Dieses kleine Skript stellt mehreren Modellen dieselben Aufgaben und schreibt die Antworten in eine Datei pro Modell. So kannst du sie nebeneinander lesen. Es nutzt die Ollama-API, schaltet das Denken ab, soweit das Modell es erlaubt, und setzt den Kontext auf 8.192 Token.

#!/usr/bin/env bash
# deutsch-test.sh – gleiche Prompts an mehrere Ollama-Modelle
MODELLE="qwen3.5:9b gemma4:12b ministral-3:8b"
PROMPTS=(
  "Schreib einen Absatz darüber, was passiert wäre, wenn der Zug pünktlich gewesen wäre. Verwende den Genitiv mindestens zweimal."
  "Erkläre in drei Sätzen, was eine Betriebskostenabrechnung ist und wer sie erstellt."
  "Was ist der Unterschied zwischen Rate Limiting und Throttling?"
)
for m in $MODELLE; do
  out="antworten-${m//[:\/]/_}.md"
  : > "$out"
  for p in "${PROMPTS[@]}"; do
    printf '## %s\n\n' "$p" >> "$out"
    jq -n --arg m "$m" --arg p "$p" \
      '{model:$m, prompt:$p, stream:false, think:false, options:{num_ctx:8192}}' |
    curl -s http://localhost:11434/api/generate -d @- | jq -r '.response' >> "$out"
    printf '\n\n' >> "$out"
  done
  echo "$m -> $out"
done

Voraussetzung sind curl und jq. Bei gpt-oss lässt sich das Denken nicht abschalten, nur abstufen; setz dort statt false den Wert "low".

Einstellungen, die das Deutsch verbessern

Drei Einstellungen machen mehr aus als der Wechsel auf das nächstgrößere Modell: eine deutsche Systemanweisung, abgeschaltetes Denken bei Textaufgaben und ein ausreichend großer Kontext.

Systemanweisung auf Deutsch. Eine kurze Anweisung wie „Du antwortest ausschließlich auf Deutsch, in natürlichem, klarem Stil, ohne Anglizismen, wo es ein gängiges deutsches Wort gibt." verhindert das Abgleiten ins Englische zuverlässiger als jede Modellwahl. Dauerhaft setzt du sie in einem Modelfile:

FROM qwen3.5:9b
SYSTEM "Du antwortest ausschließlich auf Deutsch, in natürlichem, klarem Stil."
PARAMETER num_ctx 16384
ollama create qwen-deutsch -f Modelfile
ollama run qwen-deutsch

Denken abschalten. Laut Ollama-Dokumentation lässt sich der Denkmodus über das Feld think steuern: false schaltet ihn ab, sofern das Modell das erlaubt, bei gpt-oss wählst du stattdessen low, medium oder high. Welche Werte ein Modell unterstützt, zeigt /api/show. Für E-Mails, Zusammenfassungen und Übersetzungen bringt das Denken selten etwas, wie die gpt-oss-Werte im Leaderboard zeigen.

Kontext hochsetzen. Der Standard von 4.096 Token laut Ollama-FAQ reicht für Chat, nicht für Dokumente. Im Modelfile mit PARAMETER num_ctx, global mit der Umgebungsvariablen OLLAMA_CONTEXT_LENGTH. Jeder zusätzliche Token kostet Speicher; die Rechnung dazu steht im Hardware-Artikel.

Quantisierung mittesten. Die EuroEval-Werte gelten für volle Genauigkeit, Ollama lädt standardmäßig 4-Bit-Fassungen. Wie stark das speziell das Deutsch trifft, hat niemand systematisch gemessen. Wenn du Speicher übrig hast, lass die fünf Tests einmal mit dem Standard-Tag und einmal mit der Q8-Fassung laufen, etwa qwen3.5:9b (6,6 GB) gegen qwen3.5:9b-q8_0 (10 GB). Die Hintergründe stehen in Quantisierung von LLMs erklärt.

Häufige Fragen

Welches Ollama-Modell ist das beste für Deutsch? Mit 24 GB Speicher ist es derzeit qwen3.8:27b, dicht gefolgt von qwen3.6:27b und gemma4:31b. Mit 12 bis 16 GB ist gemma4:12b die erste Wahl, mit 8 GB qwen3.5:9b. Grundlage ist das deutsche Leaderboard von EuroEval, Stand 4. November 2026.

Gibt es ein deutsches Modell für Ollama? Offiziell in der Ollama-Library nicht. EuroLLM, Teuken, SauerkrautLM und Kolibri laufen nur als Community-Upload oder über GGUF-Dateien von Hugging Face. Im deutschen Leaderboard liegen sie hinter den aktuellen Modellen von Qwen, Google und Mistral.

Ist Llama gut auf Deutsch? Llama 3.1 8B liegt im deutschen EuroEval-Leaderboard hinter allen aktuellen Modellen ähnlicher Größe. Llama 3.3 70B unterstützt Deutsch offiziell, ist dort aber nicht gelistet. Für Deutsch gibt es heute bessere Optionen mit weniger Speicherbedarf.

Welches Ollama-Modell übersetzt am besten ins Deutsche? Für reine Übersetzungen translategemma in 4B, 12B oder 27B. Es ist auf 55 Sprachen spezialisiert, braucht aber ein festes Prompt-Format. Für freiere Übersetzungen mit Stilanpassung eignet sich ein allgemeines Modell wie gemma4:31b.

Warum antwortet mein Modell plötzlich auf Englisch? Meist fehlt eine deutsche Systemanweisung, oder ein englischer Fachbegriff in der Frage zieht das Modell in die andere Sprache. Eine kurze Anweisung wie „Antworte ausschließlich auf Deutsch" im Systemprompt behebt das in den meisten Fällen.

Brauche ich für Deutsch ein größeres Modell als für Englisch? Tendenziell ja, weil deutschsprachige Trainingsdaten seltener sind. Die aktuelle Generation hat den Abstand aber verkleinert: gemma4:12b schneidet im deutschen Leaderboard besser ab als das zehnmal größere gpt-oss:120b.

Zusammenfassung und praktische Tipps

  • Qwen, Gemma 4 und Mistral sind im November 2026 die drei Familien mit dem besten Deutsch unter Ollama.
  • Die 27-Milliarden-Klasse ist der Sweet Spot. qwen3.8:27b und qwen3.6:27b liegen im deutschen Leaderboard auf dem Niveau kleinerer Cloud-Modelle.
  • Unter 10 GB ist gemma4:12b am stärksten, für 8 GB qwen3.5:9b.
  • Mehr Parameter heißt nicht besseres Deutsch. gpt-oss:120b liegt hinter Gemma 4 12B.
  • Europäische Modelle sind eine Herkunftsfrage, keine Qualitätsfrage: EuroLLM, Teuken und Kolibri liegen auf Deutsch hinter Qwen und Gemma und haben keinen offiziellen Ollama-Eintrag.
  • Phi-4 nicht für Deutsch verwenden. Microsoft schließt mehrsprachige Nutzung in der Modellkarte selbst aus.
  • Für Übersetzungen translategemma, mit dem dokumentierten Prompt-Format.
  • Thinking aus bei Textaufgaben. Es kostet Zeit und verbessert das Deutsch nicht.
  • Kontext hochsetzen beim Zusammenfassen. Der Standard von 4.096 Token schneidet längere Dokumente stillschweigend ab.
  • Selbst testen. Fünf Prompts und eine Checkliste zeigen in einer Viertelstunde mehr als jeder Benchmark.

Mein Rat: Nimm das stärkste Modell aus der Tabelle, das auf deine Hardware passt, schreib ihm eine deutsche Systemanweisung und lass die fünf Tests laufen. Wenn es dort sauber durchkommt, hör auf zu suchen. Der Abstand zwischen den drei führenden Familien ist auf Deutsch so klein, dass dein eigener Geschmack beim Stil mehr entscheidet als der nächste Leaderboard-Platz, und der Leaderboard-Platz von heute ist in vier Wochen ohnehin ein anderer.

Ressourcen