VoyageAI by MongoDB: voyage-4-large

VoyageAI by MongoDB: voyage-4-large è un modello di embedding di Voyage AI, un provider i cui modelli sono distribuiti con il nome VoyageAI by MongoDB. Si colloca nella categoria embeddings, il che significa che è costruito per trasformare testo in vettori anziché per generare risposte conversazionali. Se stai scegliendo un modello per una pipeline di retrieval o di similarità, questo è il tipo di modello che valuti in base alla qualità dell'embedding e non alla capacità conversazionale.

Il modello accetta testo come unica modalità di input e restituisce embedding come unico output. Ha una lunghezza di contesto di 32.000 token, quindi una singola richiesta può coprire un documento piuttosto lungo o un batch di passaggi più brevi. Il provider lo descrive come un embedding general-purpose e multilingue allo stato dell'arte, ottimizzato per la qualità del retrieval. Utilizza Matryoshka learning e quantization-aware training, e supporta embedding a 2048, 1024, 512 e 256 dimensioni. L'output massimo è indicato come 28.800, che è il limite massimo sul lato output dell'embedding di una richiesta.

Queste capacità indicano un insieme specifico di casi d'uso. La ricerca semantica e il retrieval su una collezione di documenti è l'uso più diretto, poiché il modello è ottimizzato per la qualità del retrieval e può generare embedding di passaggi lunghi entro il contesto di 32.000 token. Anche i corpora multilingue sono un obiettivo ragionevole, data la formazione multilingue. Poiché gli embedding possono essere troncati a 2048, 1024, 512 o 256 dimensioni, puoi bilanciare la dimensione dei vettori rispetto allo spazio di archiviazione e alla velocità di ricerca a seconda della precisione necessaria al tuo indice. Clustering, deduplicazione e scoring di similarità su testo sono altre applicazioni naturali, così come la costruzione di un indice vettoriale che alimenta un modello di generazione separato.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando il model id "voyageai/voyage-4-large". Poiché l'endpoint segue il formato OpenAI, puoi indirizzare un client OpenAI esistente verso api14 e inviare richieste di embedding senza riscrivere la tua integrazione. La lista dei parametri supportati dal modello è vuota, quindi non ci sono parametri di richiesta extra da configurare oltre a quanto richiede la chiamata di embedding standard. Considera il model id come l'unico valore specifico del modello che devi impostare.

Un vincolo pratico da tenere a mente è che questo modello gestisce solo input testuale e produce solo embedding. Non può generare testo, rispondere a domande o seguire istruzioni, quindi qualsiasi applicazione che richieda una risposta scritta necessita di un modello di generazione separato accanto ad esso. Il contesto di 32.000 token è generoso per il lavoro di embedding ma comunque finito, quindi documenti molto grandi devono essere suddivisi in chunk prima dell'embedding. Se il tuo compito è la generazione anziché il retrieval, un modello chat o completion è la scelta migliore.