OpenAI: Text Embedding 3 Small (batch)

OpenAI: Text Embedding 3 Small (batch) è un modello di embedding di OpenAI, offerto tramite api14. Appartiene alla categoria embeddings, e il suo model id su api14 è openai/text-embedding-3-small:batch. OpenAI descrive text-embedding-3-small come una versione migliorata e più performante del modello di embedding ada. Gli embedding sono una rappresentazione numerica del testo che può essere utilizzata per misurare la correlazione tra due porzioni di testo.

Il modello accetta testo come unico input e restituisce embedding come unico output. Ha una lunghezza di contesto di 8192 token, e l'output massimo è 7372. Non sono elencati parametri supportati per questo modello, quindi non puoi regolare le impostazioni di campionamento o generazione tramite la richiesta. Il suffisso batch nel model id indica la variante batch di questo modello di embedding su api14.

Poiché produce embedding anziché testo generato, gli usi pratici derivano dalla misurazione della similarità tra testi. Il lavoro tipico include la ricerca semantica, in cui si codificano una query e un insieme di documenti e si classificano i documenti per vicinanza; il retrieval per una pipeline di generazione aumentata dal retrieval, in cui gli embedding selezionano i passaggi rilevanti da passare a un modello di chat; il clustering o il raggruppamento per argomento di grandi collezioni di testo; la deduplicazione, in cui elementi quasi identici vengono trovati confrontando i vettori; e la classificazione o il routing, in cui un modello leggero consuma gli embedding. Il contesto di 8192 token significa che i singoli input possono essere piuttosto lunghi, quindi intere pagine o passaggi lunghi possono essere codificati senza suddividerli prima.

Per chiamarlo tramite api14, usa l'API compatibile con OpenAI con il model id openai/text-embedding-3-small:batch. Punta il tuo client OpenAI esistente all'URL di base di api14 e invia il tuo testo all'endpoint embeddings, oppure usa la route equivalente in stile chat se il tuo client ne prevede una. Poiché il modello non elenca parametri supportati, mantieni le richieste semplici: invia il model id e il testo di input, e leggi il vettore di embedding dalla risposta. Non è necessario impostare temperature, top_p o opzioni simili, poiché questo modello non le accetta.

Una cosa da tenere a mente è che questo modello gestisce solo input di testo e restituisce solo embedding. Non genera chat completion o qualsiasi altro output testuale, quindi se il tuo compito è conversazione, riassunto o generazione di codice, un modello di chat o completion è la scelta migliore. Se devi codificare volumi molto grandi di testo, la variante batch è la scelta pertinente qui, mentre altri modelli di embedding possono adattarsi a diverse esigenze di accuratezza o lingua.