Embedding-Modelle für Deutsch im Vergleich: Open Source und APIs (Stand November 2026)
Artikel-Übersicht
Wer eine semantische Suche oder ein RAG-System für deutsche Dokumente baut, trifft eine Entscheidung früher als alle anderen: die für das Embedding-Modell. Sie bindet stärker als die Wahl der Datenbank, denn wer das Modell wechselt, muss den gesamten Bestand neu einbetten. Dieser Artikel hilft bei genau dieser Wahl. Er vergleicht die Open-Source-Modelle, die du lokal oder unter Ollama betreiben kannst, mit den API-Modellen von OpenAI, Cohere, Voyage, Mistral und Google.
Die Grundlage sind keine Herstellerfolien, sondern die Rohergebnisse aus dem öffentlichen Ergebnis-Repository des MTEB-Benchmarks, gefiltert auf deutsche Aufgaben, abgerufen am 04.11.2026. Dazu kommen Dimensionen, Kontextlänge und Lizenz aus den Modellkarten, die Listenpreise der Anbieter vom selben Tag, eine Einordnung zu Datenschutz und DSGVO, der Hardwarebedarf und eine Entscheidungshilfe nach Anwendungsfall. Am Ende steht ein kurzes Python-Beispiel, das zwei deutsche Sätze über die Ollama-API vergleicht.
Was ein Embedding grundsätzlich ist, erklärt Embeddings verständlich erklärt. Wohin die Vektoren danach kommen, steht im Vektordatenbanken-Vergleich, wie das Ganze zu einem Frage-Antwort-System wird, in RAG selbst bauen. Falls Ollama noch fehlt: Ollama installieren.
Was ist ein Embedding-Modell? Die Kurzfassung
Ein Embedding-Modell wandelt einen Text in eine feste Liste von Zahlen um, sodass Texte mit ähnlicher Bedeutung nahe beieinanderliegen. Es erzeugt keine Antworten, sondern Vektoren, und es ist das Modell, das in einer Suche entscheidet, welche Absätze überhaupt beim Sprachmodell ankommen. „Wie kündige ich meinen Handyvertrag?" und „Ich möchte meinen Mobilfunkvertrag beenden" teilen kaum ein Wort, landen bei einem guten Modell aber dicht beieinander. Wie das intern funktioniert, welche Ähnlichkeitsmaße es gibt und was Dimensionen bedeuten, steht ausführlich im Erklärstück zu Embeddings. Hier geht es nur um eine Frage: welches Modell du für deutsche Texte nimmst.
Die kurze Antwort
Lokal und mit Nvidia-Grafikkarte oder Apple Silicon mit 16 GB: Qwen3-Embedding-4B. Es liegt auf dem deutschen Teil von MIRACL vorn, ist Apache-2.0-lizenziert und in Ollama als qwen3-embedding:4b mit 2,5 GB verfügbar.
Lokal auf schwacher Hardware oder CPU: bge-m3 oder Qwen3-Embedding-0.6B. Beide liegen unter 1,3 GB, haben einen langen Kontext und eine freie Lizenz. bge-m3 ist auf Deutsch im Retrieval stärker, Qwen3-0.6B auf Satzähnlichkeit.
Per API, wenn die Daten es erlauben: gemini-embedding-001, Cohere Embed v4 oder voyage-4-large. Welches davon vorn liegt, hängt davon ab, welchen deutschen Benchmark du anschaust. Das ist der wichtigste Befund dieses Vergleichs, und er steht im nächsten Abschnitt.
Wie man deutsche Qualität misst
Der MTEB-Gesamtwert taugt für die Wahl eines Modells für deutsche Texte nur bedingt, weil er über mehr als hundert Sprachen und viele Aufgabentypen mittelt. Klassifikation, Clustering und Bitext-Mining zählen dort genauso wie die Suche, die für RAG allein zählt. Wer deutsche Dokumente durchsuchen will, sollte auf die deutschen Retrieval-Aufgaben schauen.
Das MTEB-Projekt veröffentlicht seine Einzelergebnisse in einem offenen GitHub-Repository. Für diesen Artikel habe ich daraus drei Aufgaben je Modell ausgelesen:
- MIRACL (de): Suche in der deutschen Wikipedia, Variante mit „Hard Negatives", Maß nDCG@10. Der Datensatz ist öffentlich.
- GermanLegal1: deutsche Gerichtsentscheidungen, Teil des Retrieval-Benchmarks RTEB.
- GermanHealthcare1: 465 medizinische Dialoge zwischen Patienten und Assistenz, ebenfalls RTEB.
Die beiden RTEB-Datensätze sind privat. Hugging Face hat RTEB im Oktober 2025 mit genau diesem Argument eingeführt: Öffentliche Benchmarks belohnen Modelle, die auf die Testdaten hin trainiert wurden. Die privaten Sätze werden von den MTEB-Maintainern ausgewertet, die Modellhersteller sehen sie nicht. Fällt ein Modell auf den privaten Sätzen deutlich gegenüber den öffentlichen ab, ist das ein Hinweis auf Überanpassung.
Für Satzähnlichkeit gibt es zusätzlich den German STS Benchmark. Er misst, ob das Modell bewertet wie ein Mensch, wie ähnlich zwei Sätze sind. Das ist näher an Duplikaterkennung als an Suche.
Die Vergleichstabelle: offene Modelle
Alle Werte nDCG@10 bzw. Spearman × 100, aus dem MTEB-Ergebnis-Repository, abgerufen am 04.11.2026. Ein Strich heißt: Für dieses Modell liegt dort kein Ergebnis vor. Spezifikationen aus den Modellkarten auf Hugging Face, Download-Größen aus der Ollama-Library.
| Modell | Dimensionen | Kontext | Lizenz | Ollama | MIRACL-de | GermanLegal1 | GermanHealthcare1 | German STS |
|---|---|---|---|---|---|---|---|---|
| Qwen3-Embedding-8B | 4.096 (32–4.096) | 32K | Apache 2.0 | 4,7 GB | 61,9 | 69,8 | 87,6 | 90,1 |
| Qwen3-Embedding-4B | 2.560 (32–2.560) | 32K | Apache 2.0 | 2,5 GB | 63,0 | 70,5 | 84,8 | 90,0 |
| Qwen3-Embedding-0.6B | 1.024 (32–1.024) | 32K | Apache 2.0 | 639 MB | 54,2 | 61,8 | 71,4 | 84,0 |
| bge-m3 | 1.024 | 8.192 | MIT | 1,2 GB | 57,6 | 60,9 | 72,5 | 80,8 |
| nomic-embed-text-v2-moe | 768 (bis 256) | 512 | Apache 2.0 | 958 MB | 58,2 | 66,9 | 69,0 | 77,0 |
| jina-embeddings-v5-text-small | 1.024 (32–1.024) | 32K | CC BY-NC 4.0 | – | 58,0 | – | – | 90,1 |
| harrier-oss-v1-0.6b | 1.024 | 32K | MIT | – | 56,5 | 61,5 | 73,4 | 85,5 |
| EmbeddingGemma 300m | 768 | 2K | Gemma Terms | 622 MB | 56,6 | – | – | 84,6 |
| EmbeddingGemma 2 | 768 (bis 128) | 8.192 | Apache 2.0 | 0,3–1,3 GB | 55,2 | – | – | 81,9 |
| multilingual-e5-large-instruct | 1.024 | 512 | MIT | – | 43,4 | 64,1 | 74,2 | 84,8 |
| granite-embedding-311m-multilingual-r2 | 768 (bis 128) | 32K | Apache 2.0 | – | 51,0 | 54,4 | 67,6 | 74,6 |
Der Strich in der Ollama-Spalte heißt: nicht in der offiziellen Library. Viele dieser Modelle gibt es als GGUF auf Hugging Face, die du in Ollama importieren kannst. Die granite-embedding-Einträge der Library sind die ältere Generation mit 512 Token Kontext, nicht das R2-Modell aus der Tabelle.
Die Vergleichstabelle: API-Modelle
Preise sind Listenpreise in US-Dollar pro einer Million Input-Token, abgerufen am 04.11.2026 auf den Preisseiten der Anbieter.
| Modell | Dimensionen | Kontext | Preis / 1 Mio. Token | MIRACL-de | GermanLegal1 | GermanHealthcare1 |
|---|---|---|---|---|---|---|
| OpenAI text-embedding-3-small | 1.536 | 8.192 | 0,02 $ | – | 61,8 | 70,4 |
| OpenAI text-embedding-3-large | 3.072 | 8.192 | 0,13 $ | 52,6 | 66,7 | 81,1 |
| Cohere embed-v4.0 | 1.536 (256–1.536) | 128K | kein öffentlicher Listenpreis | 58,6 | 72,9 | 85,0 |
| Voyage voyage-4-large | 1.024 (256–2.048) | 32K | 0,12 $ | 51,6 | 75,5 | 91,4 |
| Voyage voyage-4 | 1.024 (256–2.048) | 32K | 0,06 $ | 49,8 | 74,8 | 88,4 |
| Voyage voyage-4-lite | 1.024 (256–2.048) | 32K | 0,02 $ | 47,2 | 72,6 | 83,2 |
| Google gemini-embedding-001 | 3.072 (128–3.072) | 2.048 | 0,15 $ (Batch 0,075 $) | 60,7 | 71,5 | 87,4 |
| Google gemini-embedding-2 | 3.072 (128–3.072) | 8.192 | 0,20 $ (Batch 0,10 $) | – | – | – |
| Mistral mistral-embed | 1.024 | 8K | 0,10 $ | – | – | – |
Zu Cohere: Die Preisseite nennt für Embed 4 keinen Preis pro Token mehr, der Bezug läuft über den Vertrieb oder Cloud-Marktplätze. Voyage gibt für die 4er-Serie 200 Millionen Token gratis. Für gemini-embedding-2 und mistral-embed liegen im Repository keine Ergebnisse auf den deutschen Aufgaben vor.
Was die Zahlen sagen
Die Rangfolge hängt am Benchmark: Auf dem öffentlichen MIRACL-de liegen die offenen Qwen3-Modelle vorn, auf den privaten RTEB-Sätzen die API-Modelle von Voyage, Google und Cohere. voyage-4-large ist auf MIRACL-de mit 51,6 nur Mittelfeld, auf den deutschen Medizindialogen mit 91,4 der klare Spitzenreiter. Qwen3-Embedding-4B schwankt deutlich weniger: 63,0 auf MIRACL, 70,5 und 84,8 auf den privaten Sätzen, also auf beiden Seiten oben.
Drei Folgerungen:
- Qwen3-Embedding-4B und -8B sind die einzigen offenen Modelle, die auf allen drei deutschen Retrieval-Aufgaben mit den besten APIs mithalten. Der Unterschied zwischen 4B und 8B ist klein und nicht in jeder Aufgabe zugunsten des größeren Modells.
- Ein hoher MTEB-Gesamtwert sagt wenig über deutsches Retrieval. multilingual-e5-large-instruct liegt laut der Qwen3-Modellkarte im multilingualen Mittel mit 63,2 vor bge-m3 mit 59,6. Auf MIRACL-de fällt es mit 43,4 weit hinter bge-m3 mit 57,6 zurück, auf den privaten Sätzen liegt es wieder vor bge-m3.
- text-embedding-3-large ist für deutsche Texte nicht mehr erste Wahl. Es ist das bekannteste Modell, liegt aber auf allen drei Aufgaben hinter gemini-embedding-001 und Cohere Embed v4, auf den privaten Sätzen auch hinter allen drei Voyage-Modellen und auf MIRACL-de sogar hinter bge-m3.
Ein Vorbehalt gilt für alle Werte: Benchmarks sind Wikipedia-Fragen, Urteile und Arzt-Dialoge. Deine Daten sind etwas anderes. Vor der Entscheidung lohnt ein Test mit 30 bis 50 echten Fragen aus deinem Bestand und den zwei, drei Kandidaten aus der Tabelle.
Die offenen Modelle im Einzelnen
Qwen3-Embedding (0.6B, 4B, 8B) von Alibaba ist seit Juni 2025 verfügbar und die stärkste offene Familie für Deutsch. Alle drei Größen haben 32.000 Token Kontext und Matryoshka-Training, das heißt, du kannst die Vektoren ohne Neuberechnung kürzen. Die Modellkarte verlangt bei Suchanfragen eine Aufgabenbeschreibung vor dem Text (Instruct: …\nQuery: …), Dokumente bleiben ohne. Wer das vergisst, verschenkt Qualität.
bge-m3 von der Beijing Academy of Artificial Intelligence ist der robuste Klassiker: MIT-Lizenz, 8.192 Token, 1.024 Dimensionen, keine Präfixe nötig. Als einziges Modell im Vergleich liefert es neben dem dichten Vektor auch gewichtete Schlüsselwörter (sparse) und Mehrvektor-Darstellungen im ColBERT-Stil. Das macht es interessant für Hybrid-Suche.
nomic-embed-text-v2-moe ist ein Mixture-of-Experts-Modell mit 475 Millionen Parametern, von denen 305 Millionen pro Anfrage aktiv sind. Die Retrieval-Werte sind gut, der Kontext mit 512 Token aber knapp: Längere Abschnitte werden abgeschnitten. Es braucht die Präfixe search_query: und search_document:. Nicht verwechseln mit nomic-embed-text (v1), dem meistgeladenen Embedding-Modell in Ollama, das für Deutsch nicht gebaut ist.
jina-embeddings-v5-text-small vom Februar 2026 baut auf Qwen3-0.6B auf und hat bei der Satzähnlichkeit den besten Wert im Feld. Der Haken ist die Lizenz: CC BY-NC 4.0, also keine kommerzielle Nutzung ohne Vertrag mit Jina. Die kleinere Variante v5-text-nano mit 239 Millionen Parametern erreicht auf MIRACL-de sogar 59,3.
harrier-oss-v1 ist Microsofts offene Embedding-Familie unter MIT-Lizenz, in drei Größen von 270 Millionen bis 27 Milliarden Parametern. Das 0.6B-Modell liegt auf Deutsch im Bereich von bge-m3, das 27B-Modell erreicht auf MIRACL-de 59,3 und ist für die meisten lokalen Setups zu groß.
EmbeddingGemma von Google gibt es in zwei Generationen. Die erste mit 300 Millionen Parametern hat nur 2.048 Token Kontext und steht unter den Gemma-Nutzungsbedingungen. EmbeddingGemma 2 basiert auf Gemma 4, steht unter Apache 2.0, hat 8.192 Token Kontext und bettet neben Text auch Bild, Video und Audio in denselben Raum ein. Auf Deutsch ist es nicht stärker als der Vorgänger. Seine Stärke ist die Größe: Die reine Text-Variante embeddinggemma-2:270m ist in Ollama 304 bis 378 MB groß.
granite-embedding-311m-multilingual-r2 von IBM ist seit April 2026 verfügbar und wurde unter anderem auf Deutsch trainiert. Es hat 32.000 Token Kontext und Apache 2.0, liegt auf den deutschen Aufgaben aber im unteren Feld.
snowflake-arctic-embed-l-v2.0 fehlt in der Tabelle, weil ich die Spezifikationen nicht vollständig prüfen konnte. Die deutschen Werte im Repository sind aber bemerkenswert: 59,0 auf MIRACL-de, 69,9 auf GermanLegal1 und 77,6 auf GermanHealthcare1, unter Apache 2.0. In Ollama heißt es snowflake-arctic-embed2.
Die API-Anbieter im Einzelnen
Google hat mit gemini-embedding-001 das stärkste API-Modell auf MIRACL-de und ein starkes auf den privaten Sätzen. Der Kontext ist mit 2.048 Token aber kurz. Der Nachfolger gemini-embedding-2 hebt ihn auf 8.192 Token und nimmt neben Text auch Bilder, Audio, Video und PDFs, kostet aber 0,20 statt 0,15 Dollar. Für die Vektoren gilt bei beiden: 3.072 Dimensionen als Standard, kürzbar bis 128.
Voyage (inzwischen bei MongoDB) hat mit der 4er-Serie vom Januar 2026 die besten Werte auf den privaten deutschen Sätzen. Alle vier Modelle der Serie sind untereinander kompatibel, du kannst also Dokumente mit voyage-4-large einbetten und Anfragen mit dem billigeren voyage-4-lite. Das kleinste, voyage-4-nano, ist als offenes Modell unter Apache 2.0 auf Hugging Face verfügbar.
Cohere Embed v4 hat mit 128.000 Token den längsten Kontext im Vergleich und bettet auch Bilder und gemischte Dokumente wie PDFs ein. Auf Deutsch liegt es solide im oberen Drittel. Der fehlende öffentliche Preis macht die Kalkulation umständlicher.
OpenAI bleibt mit text-embedding-3-small der billigste Einstieg. Für deutsches Retrieval gibt es bessere Optionen zum gleichen oder geringen Aufpreis, voyage-4-lite kostet gleich viel und liegt auf beiden privaten Sätzen deutlich höher.
Mistral ist als französischer Anbieter für viele die naheliegende europäische Option. mistral-embed hat 1.024 Dimensionen und 8K Token Kontext und kostet 0,10 Dollar. Für die deutschen MTEB-Aufgaben liegen keine Ergebnisse vor, die Qualität musst du selbst testen.
Was die Preise praktisch bedeuten: Ein Bestand von 10 Millionen Token kostet mit text-embedding-3-small einmalig 0,20 Dollar, mit voyage-4-large 1,20 Dollar und mit gemini-embedding-2 2 Dollar. Für die meisten Projekte sind die Embedding-Kosten vernachlässigbar, der Datenschutz ist es nicht.
Datenschutz und DSGVO
Sobald deine Dokumente personenbezogene Daten enthalten, ist die Frage nicht, welches API-Modell am besten ist, sondern ob du die Texte überhaupt an einen Dienstleister schicken darfst. Beim Einbetten geht der komplette Text an den Anbieter, nicht nur ein Auszug. Für einen RAG-Index heißt das: der gesamte Bestand.
Was die Anbieter heute anbieten, Stand 04.11.2026:
- Google: Im kostenlosen Kontingent der Gemini API werden Eingaben laut Preisseite zur Verbesserung der Produkte genutzt, im bezahlten nicht. Über Vertex AI sind gemini-embedding-001 und -2 laut Googles Tabelle zur Datenresidenz in der EU-Multiregion verfügbar, aber nicht in der Einzelregion Frankfurt. Eine Fußnote derselben Seite widerspricht dem für gemini-embedding-001, prüf das also vor dem Einsatz.
- OpenAI: Seit Februar 2025 gibt es Datenresidenz in Europa für „berechtigte Endpunkte", nur bei neu angelegten API-Projekten und mit Zero Data Retention. Ob dein Endpunkt dazugehört, musst du im Projekt prüfen.
- Mistral: Seit August 2026 gibt es regionale Endpunkte für die EU und die USA, mit 10 Prozent Aufschlag. Über den Standard-Endpunkt gibt es laut The Decoder keine Garantie zum Verarbeitungsort, und Kontodaten sowie einzelne Unterauftragsverarbeiter können auch bei regionalem Routing außerhalb der Region liegen.
- Cohere und Voyage: Cohere Embed ist zusätzlich über AWS Bedrock buchbar, dort läuft es im Rahmen deines AWS-Vertrags. Bei beiden Anbietern gilt: Auftragsverarbeitung und Verarbeitungsort im Vertrag klären, bevor echte Daten fließen.
Die rechtliche Einordnung, also Auftragsverarbeitungsvertrag, Drittlandtransfer und KI-Verordnung, steht in KI, Datenschutz und Recht. Für die Modellwahl reicht hier ein Satz: Ein lokales Embedding-Modell nimmt das Problem vollständig aus der Gleichung, und anders als bei großen Sprachmodellen kostet das bei Embeddings kaum Qualität.
Dunkler Mini-PC auf einem Holzschreibtisch unter einer Glaskuppel, um ihn kreisen leuchtende bernsteinfarbene Datenfäden, die das Glas nicht verlassen; hinter dem Fenster liegt in der Dämmerung ein Wolkenmeer über Bergen
Lokal eingebettet bleiben die Texte im eigenen Haus. Bei Embeddings ist der Qualitätsabstand zur Cloud klein genug, dass das oft die vernünftigere Wahl ist.
Hardwarebedarf und Speicher
Embedding-Modelle sind klein: Bis auf Qwen3-Embedding-8B passt jedes Modell aus der Ollama-Library in weniger als 3 GB, die meisten in rund 1 GB. Die Ollama-Download-Größen geben einen guten Anhaltspunkt für den Arbeitsspeicher:
| Modell | Ollama-Tag | Download |
|---|---|---|
| EmbeddingGemma 2 (Text) | embeddinggemma-2:270m |
304–378 MB |
| EmbeddingGemma 300m | embeddinggemma |
622 MB |
| Qwen3-Embedding-0.6B | qwen3-embedding:0.6b |
639 MB |
| nomic-embed-text-v2-moe | nomic-embed-text-v2-moe |
958 MB |
| bge-m3 | bge-m3 |
1,2 GB |
| Qwen3-Embedding-4B | qwen3-embedding:4b |
2,5 GB |
| Qwen3-Embedding-8B | qwen3-embedding:8b |
4,7 GB |
Modelle bis etwa 1 GB laufen auch ohne Grafikkarte brauchbar, weil ein Embedding nur einen einzigen Durchlauf durch das Netz braucht, keine Token-für-Token-Generierung. Bei Qwen3-4B und -8B lohnt eine GPU oder Apple Silicon, vor allem für das erste Einbetten eines großen Bestands. Wer ohne Ollama direkt mit sentence-transformers in voller Genauigkeit (FP16) arbeitet, braucht grob 2 Byte pro Parameter, für Qwen3-Embedding-8B also grob 16 GB.
Was oft unterschätzt wird, ist der Speicher in der Vektordatenbank. Ein Vektor in 32-Bit-Gleitkomma braucht 4 Byte pro Dimension. Eine Million Abschnitte mit 1.024 Dimensionen belegen damit rund 4,1 GB, mit 4.096 Dimensionen rund 16,4 GB, ohne Index. Modelle mit wählbarer Dimension wie Qwen3, die OpenAI-, Gemini-, Voyage- und Cohere-Modelle lassen sich auf 1.024 oder 768 Dimensionen kürzen, das senkt Speicher und Suchzeit spürbar. Wie viel Qualität du dabei verlierst, prüfst du am besten an deinen eigenen Testfragen. Was die Datenbanken dazu können, etwa Quantisierung auf int8 oder binär, steht im Vektordatenbanken-Vergleich.
Entscheidungshilfe nach Anwendungsfall
Die Wahl folgt aus drei Fragen: Dürfen die Daten das Haus verlassen? Welche Hardware ist da? Wie lang sind die Texte? Die Tabelle übersetzt das in eine Empfehlung.
| Anwendungsfall | Empfehlung | Warum |
|---|---|---|
| Interne Dokumente mit Personendaten, GPU vorhanden | Qwen3-Embedding-4B | beste deutsche Werte unter den offenen Modellen, Apache 2.0 |
| Interne Dokumente, nur CPU oder Laptop | bge-m3 | 1,2 GB, 8K Kontext, keine Präfixe, MIT |
| Sehr kleine Geräte und Edge | EmbeddingGemma 2 270m oder Qwen3-Embedding-0.6B | unter 700 MB |
| Hybrid-Suche aus Vektor und Schlüsselwort | bge-m3 | liefert dicht und sparse aus einem Modell |
| Öffentliche Inhalte, beste Qualität per API | voyage-4-large oder gemini-embedding-001 | Spitzenwerte auf den privaten deutschen Sätzen |
| Lange Dokumente ohne Chunking, PDFs mit Bildern | Cohere Embed v4 oder gemini-embedding-2 | 128K bzw. 8K Kontext, multimodal |
| Schneller Prototyp, minimales Budget | text-embedding-3-small oder voyage-4-lite | 0,02 $ pro Million Token |
| Duplikate und ähnliche Sätze finden | Qwen3-Embedding-4B | STS-Wert praktisch gleichauf mit dem 8B-Modell, bei halber Größe und freier Lizenz |
| Fachtexte (Recht, Medizin) | Testlauf mit Qwen3-4B, voyage-4-large und gemini-embedding-001 | auf GermanLegal1 und GermanHealthcare1 liegen die drei dicht beieinander |
Eine Abkürzung für alle, die nicht testen wollen: Fang mit qwen3-embedding:4b in Ollama an. Wenn das zu groß ist, mit bge-m3. Beides lässt sich später durch einen Testlauf mit einer API absichern, ohne dass du dich festlegst. Welches Sprachmodell für die Antworten auf dieselbe Hardware passt, steht in Welches Ollama-Modell?.
Praxis: zwei deutsche Sätze vergleichen
Das Beispiel nutzt die Ollama-Embeddings-API (POST /api/embed) und kommt ohne zusätzliche Pakete aus. Voraussetzung: Ollama läuft, und das Modell ist geladen mit ollama pull bge-m3.
import json, math, urllib.request
def embed(texte, modell="bge-m3"):
anfrage = urllib.request.Request(
"http://localhost:11434/api/embed",
data=json.dumps({"model": modell, "input": texte}).encode(),
headers={"Content-Type": "application/json"},
)
with urllib.request.urlopen(anfrage) as antwort:
return json.load(antwort)["embeddings"]
def kosinus(a, b):
skalar = sum(x * y for x, y in zip(a, b))
return skalar / (math.sqrt(sum(x * x for x in a)) * math.sqrt(sum(y * y for y in b)))
saetze = [
"Wie kündige ich meinen Handyvertrag?",
"Ich möchte meinen Mobilfunkvertrag beenden.",
"Morgen soll es in Kiefersfelden regnen.",
]
vektoren = embed(saetze)
print("Dimensionen:", len(vektoren[0]))
print(f"Satz 1 vs. 2: {kosinus(vektoren[0], vektoren[1]):.3f}")
print(f"Satz 1 vs. 3: {kosinus(vektoren[0], vektoren[2]):.3f}")Bei meinem Testlauf am 04.11.2026 kam heraus:
Dimensionen: 1024
Satz 1 vs. 2: 0.803
Satz 1 vs. 3: 0.342Die beiden Sätze über die Vertragskündigung liegen nah beieinander, obwohl sie außer „meinen" kein Wort teilen. Der Wettersatz liegt weit weg. Die absoluten Werte sind modellabhängig: Ein Schwellenwert, der bei bge-m3 funktioniert, passt bei Qwen3 oder Gemini nicht. Vergleiche deshalb immer Rangfolgen innerhalb eines Modells, nie Zahlen über Modelle hinweg.
Willst du stattdessen Qwen3-Embedding testen, tausch das Modell gegen qwen3-embedding:0.6b und stell den Suchanfragen die Aufgabenbeschreibung voran, etwa "Instruct: Finde passende Kundenanfragen\nQuery: Wie kündige ich meinen Handyvertrag?". Bei nomic-embed-text-v2-moe sind es die Präfixe search_query: und search_document:, bei EmbeddingGemma task: search result | query: für Anfragen und title: none | text: für Dokumente.
Häufige Fragen
Welches Embedding-Modell ist das beste für Deutsch? Unter den offenen Modellen Qwen3-Embedding-4B, das auf allen drei deutschen Retrieval-Aufgaben im MTEB-Repository oben liegt. Unter den APIs liegen voyage-4-large, gemini-embedding-001 und Cohere Embed v4 je nach Benchmark vorn. Ein Test mit eigenen Daten entscheidet zwischen ihnen.
Was ist ein Embedding-Modell? Ein Modell, das Text in einen Zahlenvektor umwandelt, sodass ähnliche Bedeutungen nah beieinanderliegen. Es ist die Grundlage für semantische Suche und RAG. Die ausführliche Erklärung steht in Embeddings verständlich erklärt.
Ist nomic-embed-text gut für deutsche Texte?
Die erste Version, die in Ollama am häufigsten geladen wird, ist kein mehrsprachiges Modell. Die Version nomic-embed-text-v2-moe ist mehrsprachig und auf Deutsch ordentlich, hat aber nur 512 Token Kontext. Für deutsche Texte sind bge-m3 oder Qwen3-Embedding die bessere Wahl.
Kann ich das Embedding-Modell später wechseln? Ja, aber nur mit Neuberechnung aller Vektoren. Vektoren verschiedener Modelle sind nicht vergleichbar, auch nicht bei gleicher Dimension. Eine Ausnahme ist die Voyage-4-Serie, deren Modelle laut Anbieter untereinander kompatibel sind.
Brauche ich für Embeddings eine Grafikkarte? Für Modelle bis etwa 1 GB nicht. bge-m3, Qwen3-Embedding-0.6B und EmbeddingGemma laufen auch auf der CPU. Für Qwen3-Embedding-4B und -8B und für das erste Einbetten großer Bestände beschleunigt eine GPU oder Apple Silicon deutlich.
Was kosten Embeddings per API? Zwischen 0,02 und 0,20 Dollar pro Million Token bei den Anbietern mit öffentlicher Preisliste. Ein Bestand von 10 Millionen Token kostet damit einmalig zwischen 20 Cent und 2 Dollar. Suchanfragen sind kurz und fallen daneben kaum ins Gewicht.
Sind mehr Dimensionen besser? Nicht automatisch. Qwen3-Embedding-4B mit 2.560 Dimensionen schlägt auf MIRACL-de das 8B-Modell mit 4.096, und gemini-embedding-001 mit 3.072 Dimensionen lässt sich auf 768 kürzen. Mehr Dimensionen kosten vor allem Speicher in der Datenbank.
Zusammenfassung und praktische Tipps
- Qwen3-Embedding-4B ist das stärkste offene Modell für deutsches Retrieval, Apache 2.0, in Ollama 2,5 GB.
- bge-m3 ist die robuste Wahl für schwache Hardware: 1,2 GB, 8K Kontext, MIT, dazu sparse Vektoren für Hybrid-Suche.
- Benchmarks auf Deutsch widersprechen sich: Qwen3 führt auf MIRACL-de, Voyage auf den privaten RTEB-Sätzen. Prüf mit eigenen Fragen.
- MTEB-Gesamtwerte sagen wenig über deutsches Retrieval, multilingual-e5 ist das beste Gegenbeispiel.
- text-embedding-3-large ist auf Deutsch inzwischen überholt, voyage-4-lite kostet so viel wie das kleine OpenAI-Modell und ist besser.
- Präfixe und Instruktionen gehören zu Qwen3, nomic und EmbeddingGemma dazu. Ohne sie sinkt die Qualität.
- Lizenzen prüfen: jina-embeddings-v5 ist nicht kommerziell nutzbar, EmbeddingGemma 300m steht unter eigenen Gemma-Bedingungen.
- Datenschutz: Beim Einbetten geht der ganze Text an den Anbieter. Bei Personendaten lokal arbeiten, im Gemini-Gratiskontingent nie.
- Dimensionen kürzen, wo das Modell es kann: 1.024 statt 4.096 spart drei Viertel des Speichers.
- Wechsel einplanen: Jeder Modellwechsel heißt Neuberechnung, also früh testen und dann festlegen.
Mein Rat: Für deutsche Texte gibt es 2026 keinen guten Grund mehr, Embeddings reflexhaft an OpenAI zu schicken. Die offenen Qwen3-Modelle liegen auf dem Niveau der besten APIs, laufen auf einem normalen Rechner und nehmen die Datenschutzfrage vom Tisch. Ich würde mit qwen3-embedding:4b beginnen, 50 echte Fragen aus dem eigenen Bestand dagegen laufen lassen und nur dann zu einer API wechseln, wenn ein konkreter Test zeigt, dass sie bei genau diesen Daten besser ist.
Ressourcen
- MTEB-Ergebnis-Repository auf GitHub – Rohdaten aller Werte in den Tabellen, abgerufen am 04.11.2026
- MTEB-Leaderboard auf Hugging Face – interaktive Ansicht mit Filtern nach Sprache und Aufgabe
- Introducing RTEB (Hugging Face Blog) – warum es private Benchmark-Datensätze gibt und welche deutschen darin sind
- Qwen3-Embedding-8B, Modellkarte – Spezifikationen der Familie und MMTEB-Vergleichstabelle
- bge-m3, Modellkarte – dichte, sparse und Mehrvektor-Suche aus einem Modell
- nomic-embed-text-v2-moe, Modellkarte – Präfixe und Matryoshka-Stufen
- jina-embeddings-v5-text-small, Modellkarte – Spezifikationen und Lizenzbedingungen
- EmbeddingGemma 2, Modellkarte – Prompt-Format und Matryoshka-Werte
- harrier-oss-v1-0.6b, Modellkarte – Microsofts offene Embedding-Familie
- granite-embedding-311m-multilingual-r2, Modellkarte – IBMs mehrsprachiges Modell mit 32K Kontext
- Ollama: Embedding-Modelle – alle Embedding-Modelle der Library mit Größen
- Ollama API: /api/embed – Referenz für das Code-Beispiel
- OpenAI API Pricing und OpenAI Embeddings Guide – Preise, Dimensionen, Kontext
- Voyage AI Pricing und Voyage Embeddings – Preise und Spezifikationen der 4er-Serie
- Cohere Embed – Dimensionen und Kontext von Embed v4
- Gemini API Pricing und Gemini Embeddings – Preise, Gratiskontingent, Dimensionen
- Vertex AI: Data residency – in welchen Regionen die Gemini-Embeddings verarbeitet werden
- Mistral Embed – Preis und Kontext
- The Decoder: Mistral bietet EU-Datenverarbeitung – regionale Endpunkte und ihre Grenzen, 12.08.2026
- TechCrunch: OpenAI launches data residency in Europe – Bedingungen der EU-Datenresidenz
- Embeddings verständlich erklärt – das Konzept hinter diesem Vergleich
- Vektordatenbanken im Vergleich – wohin die Vektoren danach kommen
- RAG selbst bauen – das Gesamtsystem aus Suche und Sprachmodell
- Ollama installieren – Voraussetzung für das Code-Beispiel
- Welches Ollama-Modell? – das passende Sprachmodell zur Hardware
- KI, Datenschutz und Recht – rechtliche Einordnung für den Einsatz von APIs
- Was sind Embeddings? Einfach erklärt mit Beispielen: wie KI Bedeutung in Zahlen fasst
- Vektordatenbanken im Vergleich 2026: Qdrant, Chroma, pgvector, Weaviate, Pinecone & Co.
- Retrieval-Augmented Generation (RAG) von Grund auf selbst bauen: Konzept und Praxis
- Kontextfenster (Context Window) bei LLMs erklärt: Token, Grenzen und lange Kontexte