Sentence Transformers: all-MiniLM-L12-v2

Sentence Transformers: all-MiniLM-L12-v2 ist ein Embedding-Modell von Sentence Transformers, das über api14 unter der Modell-ID sentence-transformers/all-minilm-l12-v2 bereitgestellt wird. Es gehört zur Kategorie Embeddings, seine Aufgabe ist es also nicht, Chat-Antworten zu generieren, sondern Text in Vektoren umzuwandeln, die Sie speichern, vergleichen und durchsuchen können. Das angegebene Veröffentlichungsdatum des Anbieters ist der 2025-11-18.

Das Modell nimmt Text als einzige Eingabe und liefert Embeddings als einzige Ausgabe. Es bildet Sätze und kurze Absätze in einen 384-dimensionalen dichten Vektorraum ab, wodurch die Vektoren kompakt genug sind, um sie in großer Zahl zu speichern, während sie weiterhin semantische Bedeutung tragen. Das Kontextfenster beträgt 512 Token, und die maximale Ausgabe beträgt 460. Da die Eingabe Text und die Ausgabe ein Vektor ist, gibt es keine natürlichsprachige Antwort zu parsen; Sie erhalten numerische Repräsentationen, die Sie direkt in Ihrer eigenen Pipeline verwenden können.

Diese Eigenschaften deuten auf eine ziemlich spezifische Gruppe von Anwendungsfällen hin. Semantische Suche ist der offensichtliche: Betten Sie Ihre Dokumente einmal ein, betten Sie die Abfrage zur Anfragezeit ein, und ordnen Sie nach Vektorähnlichkeit. Derselbe Ansatz funktioniert für Clustering, bei dem Sie ähnliche Sätze oder kurze Absätze ohne handgeschriebene Regeln gruppieren. Pipelines für Retrieval Augmented Generation verwenden ebenfalls diese Art von Modell, um relevante Passagen abzurufen, bevor sie an ein generatives Modell weitergegeben werden. Deduplizierung, Themengruppierung und Ähnlichkeitsprüfungen zwischen kurzen Texten sind weitere Aufgaben, die sich aus einem 384-dimensionalen Satz-Embedding ergeben.

Der Aufruf über api14 funktioniert genauso wie bei jedem anderen OpenAI-kompatiblen Endpunkt. Sie senden eine Anfrage an die Embeddings-Route mit dem Feld model auf sentence-transformers/all-minilm-l12-v2 gesetzt und Ihrem Text im Feld input, wobei Sie dieselben Client-Bibliotheken und dieselbe Authentifizierung verwenden, die Sie bereits für andere Modelle auf dem Gateway nutzen. Das Modell unterstützt keine zusätzlichen Anfrageparameter, es gibt also nichts abzustimmen außer der Modell-ID und der Eingabe selbst. Halten Sie Eingaben innerhalb des Kontextfensters von 512 Token, da längerer Text nicht hineinpasst.

Die wichtigste Einschränkung, die Sie beachten sollten, ist, dass dies ein Embedding-Modell ist, kein Textgenerator. Wenn Sie Zusammenfassungen, Antworten oder irgendeine Art von geschriebener Ausgabe benötigen, ist ein Chat- oder Completion-Modell die richtige Wahl. Es ist außerdem auf Texteingabe und kurze Passagen beschränkt, sehr lange Dokumente müssen also vor dem Einbetten in Abschnitte aufgeteilt werden. Innerhalb dieser Grenzen ist es eine praktische Option für Such-, Clustering- und Retrieval-Arbeiten, bei denen kleine Vektoren und schnelle Vergleiche wichtig sind.