Mistral: Codestral Embed 2505 è un modello di embeddings di Mistral, e OpenAI: Text Embedding 3 Small è un modello di embeddings di OpenAI. Entrambi rientrano nella categoria embeddings, il che significa che ricevono testo e restituiscono vettori, invece di generare risposte in chat. Nessuno dei due è un modello di chat generico, quindi non chiameresti nessuno dei due per redigere una risposta o sostenere una conversazione. Li chiameresti quando ti serve una rappresentazione numerica del testo per ricerca, clustering, deduplicazione o classificazione.
I due modelli sono vicini sulle specifiche che contano di più qui. Entrambi accettano testo come unica modalità di input ed entrambi restituiscono embeddings come unica modalità di output, quindi non c'è alcuna differenza multimodale da valutare. Entrambi hanno una lunghezza di contesto di 8192 token, il che significa che la quantità di testo che puoi trasformare in embedding in una singola chiamata è la stessa su entrambi i lati. Nessuno dei due espone parametri supportati, quindi non puoi regolarli con opzioni extra al momento della richiesta. L'unica differenza qualitativa elencata riguarda il prezzo di input, dove il modello OpenAI è il più economico dei due. Il prezzo di output non è significativamente diverso tra i due, quindi il divario di costo, per quanto esista, deriva dal lato input.
Per la maggior parte delle attività di embedding la scelta si riduce all'idoneità più che alla capacità grezza, perché l'inviluppo di capacità è quasi identico. Se stai trasformando in embedding codice, identificatori o testo che mescola linguaggio naturale e sorgente, Codestral Embed 2505 è il candidato naturale vista la sua discendenza. Se stai trasformando in embedding prosa ordinaria per ricerca semantica, recupero su documentazione o clustering di testo degli utenti, Text Embedding 3 Small è un default ragionevole, ed è l'opzione più economica sull'input, il che conta quando stai trasformando in embedding grandi corpora dove il volume di input domina. Se il tuo corpus è grande e prevalentemente testo semplice, la differenza di prezzo sull'input è il principale argomento pratico a favore del modello OpenAI. Se il tuo corpus è ricco di codice, il modello Mistral è quello da provare per primo.
Chiamare uno dei due modelli tramite api14 è la stessa operazione. L'API è compatibile con OpenAI, quindi punti il tuo client esistente all'URL di base di api14, invii il testo all'endpoint embeddings e imposti il campo model sull'id che vuoi. Per usare il modello Mistral, imposta l'id del modello su mistralai/codestral-embed-2505. Per usare il modello OpenAI, impostalo su openai/text-embedding-3-small. Nient'altro nella richiesta cambia, e la forma della risposta è la stessa, quindi puoi passare dall'uno all'altro modificando quella singola stringa. Questo rende economico confrontare entrambi sui tuoi dati prima di impegnarti.
C'è un caso in cui il modello Mistral resta la scelta migliore anche se costa di più sull'input. Se il tuo testo è prevalentemente codice o affine al codice, e ti interessa la qualità dei vettori risultanti per quel tipo di contenuto, il modello Codestral è quello costruito per quel materiale, e la differenza di prezzo sull'input può valere la pena di essere assorbita. Al contrario, se il tuo carico di lavoro è testo semplice ad alto volume e il costo per token di input è il fattore decisivo, il modello OpenAI è quello da scegliere. Poiché entrambi condividono la stessa lunghezza di contesto e le stesse modalità di input e output, puoi decidere solo in base al tipo di contenuto e al costo di input.