OpenAI: Text Embedding 3 Small

OpenAI: Text Embedding 3 Small is een embeddingmodel van OpenAI, vermeld op api14 onder het model-id openai/text-embedding-3-small. Het valt in de categorie embeddings, en OpenAI beschrijft het als een verbeterde, beter presterende versie van het ada-embeddingmodel. In plaats van chatantwoorden te genereren, produceert het embeddings, dit zijn numerieke representaties van tekst die worden gebruikt om te meten hoe verwant twee stukken tekst zijn.

Het model accepteert tekst als enige invoermodaliteit en retourneert embeddings als enige uitvoermodaliteit, dus het past in pipelines waarin je strings omzet in vectoren in plaats van in conversationele systemen. Het heeft een contextlengte van 8192 tokens, wat het maximum bepaalt voor hoeveel tekst een enkele aanvraag kan beslaan voordat je deze moet splitsen. De details vermelden ook een maximale uitvoer van 7372, een nuttig getal om in gedachten te houden wanneer je beslist hoe je langere documenten opdeelt.

Praktische toepassingen volgen direct uit die vorm. Omdat embeddings je in staat stellen verwantschap tussen teksten te meten, is het model geschikt voor semantisch zoeken, waarbij je een query en een corpus embedt en documenten rangschikt op similariteit. Retrieval augmented generation is een andere veelvoorkomende toepassing, aangezien een retrievalllaag gebouwd op embeddings relevante passages kan doorgeven aan een apart generatiemodel. Dezelfde eigenschap ondersteunt clustering en thematische groepering over grote tekstcollecties, deduplicatie van bijna identieke inhoud, classificatie wanneer je een lichtgewicht classifier traint op de vectoren, en aanbevelings- of similariteitsfuncties die items vergelijken op basis van hun tekstbeschrijvingen. De context van 8192 tokens betekent dat elke invoer een substantiële passage kan zijn, niet slechts een enkele zin, wat helpt wanneer je hele secties embedt in plaats van geïsoleerde regels.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id openai/text-embedding-3-small. Aangezien de interface het OpenAI-formaat volgt, kunnen bestaande OpenAI-clientbibliotheken en code die zich richt op het embeddings-endpoint met minimale wijzigingen naar api14 verwijzen. De lijst met ondersteunde parameters van het model is leeg, dus er zijn geen aanvullende aanvraagparameters gedocumenteerd naast de standaard aanvraagstructuur voor een embeddings-aanroep: je levert het model-id en de tekstinvoer, en je ontvangt de vectoruitvoer. Eventuele afstemming die je wilt, zoals hoe je tekst opdeelt of hoe je de resulterende vectoren vergelijkt, gebeurt in je eigen pipeline in plaats van via modelparameters.

Omdat het alleen tekst in en embeddings uit verwerkt, is dit model niet de juiste keuze wanneer je gegenereerde tekst, tool calls of enig conversationeel gedrag nodig hebt; een chat- of completionmodel dekt die gevallen. Het is ook een embeddingmodel met een vast contextvenster, dus zeer lange documenten moeten nog steeds worden gesplitst voordat ze worden geëmbed. Binnen die grenzen is het een redelijke standaard voor teams die een klein, actueel OpenAI-embeddingmodel achter een OpenAI-compatibel endpoint willen.