BAAI: bge-base-en-v1.5

BAAI: bge-base-en-v1.5 är en inbäddningsmodell från BAAI, Beijing Academy of Artificial Intelligence. Den tillhör kategorin embeddings, vilket innebär att den inte är byggd för att generera chattssvar eller komplettera text. Istället omvandlar den text till numeriska vektorer. Det är en engelskspråkig modell, och v1.5 i namnet markerar detta som version 1.5 av familjen bge-base-en. Om din applikation behöver en allmän chattassistent är detta inte den typen av modell. Om din applikation behöver jämföra, söka eller matcha text efter betydelse är detta den typ av modell att utvärdera.

Modellen tar text som indata och producerar inbäddningar som utdata. Specifikt omvandlar den engelska meningar och stycken till 768-dimensionella täta vektorer, som är avsedda att bära semantisk betydelse. Kontextlängden är 512 tokens, och maximal utdata är 460. I praktiken innebär 512 tokens att du bör skicka meningar eller enstaka stycken snarare än långa dokument, eftersom längre material måste delas upp före inbäddning. Leverantören beskriver modellen som att den levererar effektiva, högkvalitativa semantiska inbäddningar optimerade för hämtning, semantisk sökning och arbetsflöden för dokumentmatchning. Vektorerna är täta, så de är kompakta nog att lagra och jämföra i stor skala.

Dessa egenskaper pekar mot en ganska specifik uppsättning användningsfall. Semantisk sökning är det tydligaste: bädda in en fråga och dina dokument, rangordna sedan dokument efter vektorlikhet istället för nyckelordsöverlapp. Hämtningspipelines kan använda samma beteende för att hämta passager som är relevanta för en fråga. Dokumentmatchning passar också, till exempel att hitta nästan dubbletter av poster, gruppera liknande supportärenden eller länka relaterade objekt mellan två samlingar. Eftersom modellen är engelskspråkig och begränsad till 512 tokens passar den för uppgifter på menings- och styckenivå. Deduplicering, klustring och likhetspoäng på kort engelsk text är alla naturliga tillämpningar, förutsatt att du delar upp längre indata först.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id "baai/bge-base-en-v1.5". Eftersom API:et följer OpenAI-formatet kan du peka en befintlig OpenAI-klient mot api14, skicka din text till embeddings-endpointen och ta emot vektorerna i svaret. De listade parametrarna som stöds för denna modell är tomma, så den tar inga extra justeringsalternativ utöver vad din begäran redan innehåller; det finns inget som temperature eller top_p att ställa in, eftersom dessa tillhör textgenerering snarare än inbäddning. Kontrollera den aktuella pristabellen på denna sida för aktuella priser.

De viktigaste begränsningarna att ha i åtanke är kontextlängden på 512 tokens, maximal utdata på 460, endast engelskspråkig indata, och det faktum att utdata är vektorer snarare än prosa. Om du behöver bädda in långa dokument i en enda omgång, hantera flera språk eller generera text passar en annan modell på api14 bättre. Inom sitt avsedda omfång, hämtning, semantisk sökning och dokumentmatchning på engelska meningar och stycken, är denna modell ett direkt alternativ.