OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) är en inbäddningsmodell från OpenAI, som erbjuds via api14. Den tillhör kategorin embeddings, och dess modell-id på api14 är openai/text-embedding-3-small:batch. OpenAI beskriver text-embedding-3-small som en förbättrad, mer presterande version av ada-inbäddningsmodellen. Inbäddningar är en numerisk representation av text som kan användas för att mäta släktskapet mellan två textstycken.

Modellen tar text som enda indata och returnerar inbäddningar som enda utdata. Den har en kontextlängd på 8192 tokens, och maximal utdata är 7372. Det finns inga listade parametrar som stöds för denna modell, så du kan inte justera sampling eller genereringsinställningar via begäran. Suffixet batch i modell-id:t anger batchvarianten av denna inbäddningsmodell på api14.

Eftersom den producerar inbäddningar snarare än genererad text, följer de praktiska användningsområdena av att mäta likhet mellan texter. Typiskt arbete inkluderar semantisk sökning, där du bäddar in en fråga och en uppsättning dokument och rangordnar dokument efter närhet; hämtning för en retrieval augmented generation-pipeline, där inbäddningar väljer relevanta avsnitt att skicka till en chattmodell; klustring eller ämnesgruppering av stora textsamlingar; deduplicering, där nästan identiska objekt hittas genom att jämföra vektorer; och klassificering eller routning, där en lättviktsmodell konsumerar inbäddningarna. Kontexten på 8192 tokens innebär att enskilda indata kan vara ganska långa, så hela sidor eller långa avsnitt kan bäddas in utan att dela upp dem först.

För att anropa den via api14, använd det OpenAI-kompatibla API:et med modell-id:t openai/text-embedding-3-small:batch. Rikta din befintliga OpenAI-klient mot api14:s bas-URL och skicka din text till embeddings-endpointen, eller använd den motsvarande chat-liknande rutten om din klient förväntar sig en sådan. Eftersom modellen inte listar några parametrar som stöds, håll förfrågningarna enkla: skicka modell-id:t och indatatexten, och läs inbäddningsvektorn från svaret. Det finns inget behov av att ange temperature, top_p eller liknande alternativ, eftersom denna modell inte accepterar dem.

En sak att ha i åtanke är att denna modell endast hanterar text som indata och endast returnerar inbäddningar. Den genererar inte chattkompletteringar eller någon annan textutdata, så om din uppgift är konversation, sammanfattning eller kodgenerering är en chatt- eller kompletteringsmodell ett bättre val. Om du behöver bädda in mycket stora textvolymer är batchvarianten det relevanta valet här, medan andra inbäddningsmodeller kan passa olika behov av noggrannhet eller språk.