Intfloat: E5-Large-v2

Intfloat: E5-Large-v2 är en embeddingsmodell från Intfloat. Den tillhör kategorin embeddings, vilket innebär att dess uppgift är att omvandla text till vektorer snarare än att generera chattssvar. Leverantören beskriver den som att den mappar engelska meningar, stycken och dokument till ett 1024-dimensionellt tätt vektorrum, med målet att uppnå hög noggrannhet i semantiska embeddings. Om din applikation behöver en representation av text som fångar betydelse snarare än ett skrivet svar, är detta den typ av modell du skulle välja.

Modellen accepterar text som sin enda indatamodalitet och producerar embeddings som sin enda utdatamodalitet. Dess kontextlängd är 512 tokens, så varje förfrågan är begränsad till en ganska kort textmängd, och maximal utdata är 460. Det finns ingen bild, ljud eller annan icke-textbaserad indata, och det finns ingen genererad prosa på utdatasidan. Allt modellen returnerar är en vektor, som du sedan lagrar, jämför eller matar in i ett annat steg i din pipeline.

Dessa egenskaper pekar mot en specifik uppsättning användningsområden. Retrieval är det tydligaste: bädda in dina dokument en gång, bädda in frågan vid förfrågningstillfället och jämför vektorer för att hitta de närmaste avsnitten. Semantisk sökning fungerar på samma sätt, och matchar på betydelse snarare än exakta nyckelord. Leverantören listar också omrangordning och likhetspoängsättning, så du kan använda vektorerna för att ordna om kandidatresultat eller för att mäta hur nära två textstycken är varandra. Eftersom vektorerna är 1024-dimensionella och täta är de väl lämpade för lagring i ett vektorindex och för cosinus- eller dot-produktjämförelse.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t "intfloat/e5-large-v2". Eftersom slutpunkten följer OpenAI-formatet kan du peka en befintlig OpenAI-klient mot api14 och skicka din text på vanligt sätt, och sedan läsa ut embeddingen från svaret. Modellen stöder inga ytterligare förfrågningsparametrar, så det finns inget utöver standardfälten i förfrågan att konfigurera. Håll varje indata inom kontextlängden på 512 tokens, och förvänta dig att utdata är själva embeddingen.

Den främsta begränsningen att planera kring är fönstret på 512 tokens. Långa dokument måste delas upp i bitar innan de bäddas in, och du måste bestämma hur du kombinerar eller lagrar dessa bitvektorer. Modellen är också engelskfokuserad enligt leverantörens beskrivning, så text på andra språk kanske inte bäddas in lika tillförlitligt. Om din uppgift är textgenerering, konversation eller något som kräver ett skrivet svar, är en embeddingsmodell fel verktyg och en generativ modell skulle passa bättre.