Sentence Transformers: all-MiniLM-L12-v2

Sentence Transformers: all-MiniLM-L12-v2 är en inbäddningsmodell från Sentence Transformers, distribuerad via api14 under modell-id:t sentence-transformers/all-minilm-l12-v2. Den tillhör kategorin inbäddningar, så dess uppgift är inte att generera chatt-svar utan att omvandla text till vektorer som du kan lagra, jämföra och söka i. Leverantörens utgivningsdatum som anges för den är 2025-11-18.

Modellen tar text som enda indata och returnerar inbäddningar som enda utdata. Den mappar meningar och korta stycken till ett 384-dimensionellt tätt vektorrum, vilket gör vektorerna kompakta nog att lagra i stora mängder samtidigt som de fortfarande bär semantisk betydelse. Kontextfönstret är 512 tokens, och maximal utdata är 460. Eftersom indata är text och utdata är en vektor finns det inget naturligt språksvar att tolka; du får numeriska representationer som du kan använda direkt i din egen pipeline.

Dessa egenskaper pekar mot en ganska specifik uppsättning användningsfall. Semantisk sökning är det uppenbara: bädda in dina dokument en gång, bädda in frågan vid förfrågningstillfället och rangordna efter vektorlikhet. Samma tillvägagångssätt fungerar för klustring, där du grupperar liknande meningar eller korta stycken utan handskrivna regler. Pipelines för retrieval augmented generation använder också denna typ av modell för att hämta relevanta passager innan de skickas till en generativ modell. Deduplicering, ämnesgruppering och likhetskontroller mellan korta texter är andra uppgifter som följer av en 384-dimensionell meningsinbäddning.

Att anropa den via api14 fungerar på samma sätt som vilken annan OpenAI-kompatibel endpoint som helst. Du skickar en förfrågan till inbäddningsrutten med modellfältet satt till sentence-transformers/all-minilm-l12-v2 och din text i indatafältet, med samma klientbibliotek och autentisering som du redan använder för andra modeller på gatewayen. Modellen stöder inga ytterligare förfrågningsparametrar, så det finns inget att justera utöver modell-id:t och själva indata. Håll indata inom kontextfönstret på 512 tokens, eftersom längre text inte får plats.

Den främsta begränsningen att ha i åtanke är att detta är en inbäddningsmodell, inte en textgenerator. Om du behöver sammanfattningar, svar eller någon form av skriftlig utdata är en chatt- eller kompletteringsmodell rätt val i stället. Den är också begränsad till textindata och till korta passager, så mycket långa dokument måste delas upp i bitar innan de bäddas in. Inom dessa gränser är den ett praktiskt alternativ för sök-, klustrings- och hämtningsarbete där små vektorer och snabba jämförelser spelar roll.