OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) is een embeddingmodel van OpenAI, aangeboden via api14. Het behoort tot de categorie embeddings, en het model-id op api14 is openai/text-embedding-3-small:batch. OpenAI beschrijft text-embedding-3-small als een verbeterde, beter presterende versie van het ada embeddingmodel. Embeddings zijn een numerieke representatie van tekst die kan worden gebruikt om de mate van verwantschap tussen twee stukken tekst te meten.

Het model neemt tekst als enige invoer en retourneert embeddings als enige uitvoer. Het heeft een contextlengte van 8192 tokens, en de maximale uitvoer is 7372. Er zijn geen ondersteunde parameters vermeld voor dit model, dus je kunt sampling- of generatie-instellingen niet aanpassen via het verzoek. Het batch-achtervoegsel in het model-id geeft de batchvariant van dit embeddingmodel op api14 aan.

Omdat het embeddings produceert in plaats van gegenereerde tekst, volgen de praktische toepassingen uit het meten van gelijkenis tussen teksten. Typisch werk omvat semantisch zoeken, waarbij je een query en een set documenten embedt en documenten rangschikt op nabijheid; retrieval voor een retrieval augmented generation-pijplijn, waarbij embeddings relevante passages selecteren om door te geven aan een chatmodel; clustering of topicgroepering van grote tekstcollecties; deduplicatie, waarbij bijna identieke items worden gevonden door vectoren te vergelijken; en classificatie of routering, waarbij een lichtgewicht model de embeddings consumeert. De context van 8192 tokens betekent dat individuele invoeren behoorlijk lang kunnen zijn, dus hele pagina's of lange passages kunnen worden geëmbed zonder ze eerst op te splitsen.

Om het via api14 aan te roepen, gebruik je de OpenAI-compatibele API met het model-id openai/text-embedding-3-small:batch. Richt je bestaande OpenAI-client op de api14 base URL en stuur je tekst naar het embeddings-endpoint, of gebruik de equivalente chat-achtige route als je client die verwacht. Omdat het model geen ondersteunde parameters vermeldt, houd je verzoeken eenvoudig: stuur het model-id en de invoertekst, en lees de embeddingvector uit het antwoord. Het is niet nodig om temperature, top_p of vergelijkbare opties in te stellen, aangezien dit model ze niet accepteert.

Een ding om in gedachten te houden is dat dit model alleen tekstinvoer verwerkt en alleen embeddings retourneert. Het genereert geen chat completions of enige andere tekstuitvoer, dus als je taak conversatie, samenvatting of codegeneratie is, is een chat- of completionmodel de betere keuze. Als je zeer grote hoeveelheden tekst moet embedden, is de batchvariant hier de relevante keuze, terwijl andere embeddingmodellen kunnen passen bij andere nauwkeurigheids- of taalbehoeften.