Usiamo i cookie. Cookie e memoria del browser ti mantengono connesso e ricordano le tue preferenze. Con il tuo consenso misuriamo anche come viene usato il sito. Puoi in qualsiasi momento. Consulta la nostra cookie policy.
mongodb/voyage-code-4Usa il tuo saldo ai prezzi indicati sopra. I nuovi account partono con utilizzo gratuito.
Impostazioni
VoyageAI di MongoDB: voyage-code-4 è un modello di embedding per il codice di Voyage AI, una società di MongoDB. Appartiene alla categoria degli embedding, quindi il suo compito è trasformare l'input in vettori anziché generare risposte di chat. È progettato per agenti di programmazione e recupero di codice, il che lo colloca nella parte di uno stack in cui è necessario rappresentare il codice come vettori che possono essere archiviati, confrontati e cercati.
Il modello accetta testo come input e produce embedding come output. Ha una lunghezza di contesto di 32.000 token e un output massimo di 28.800, e utilizza embedding Matryoshka a 2048 dimensioni. Gli embedding Matryoshka possono essere troncati a lunghezze inferiori rimanendo utilizzabili, il che offre flessibilità su quanto spazio di archiviazione vettoriale e calcolo si desidera impegnare. Poiché la modalità di input è testo, il modello lavora su codice serializzato come testo, che è il modo in cui file sorgente, diff e frammenti raggiungono normalmente un endpoint di embedding.
Queste capacità indicano un insieme di utilizzi piuttosto specifico. Il recupero di codice è quello principale: indicizzare un repository in modo che una query di ricerca, una descrizione in linguaggio naturale o un frammento di codice restituisca i file o le funzioni più pertinenti. Gli agenti di programmazione possono usare gli stessi embedding per trovare contesto rilevante prima di modificare o generare codice, il che mantiene l'agente ancorato al codebase reale invece di affidarsi a ciò che entra in un prompt. Il contesto di 32.000 token significa che file più grandi o blocchi multi file possono essere incorporati in una singola richiesta, e la proprietà Matryoshka consente di scambiare la dimensione del vettore con la qualità del recupero quando si progetta l'indice.
Si chiama il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello "mongodb/voyage-code-4". Poiché l'interfaccia segue il formato OpenAI, è possibile puntare un client OpenAI esistente su api14 e inviare richieste di embedding senza riscrivere l'integrazione. Il modello non supporta parametri di richiesta aggiuntivi, quindi si inviano l'id del modello e il testo di input e si leggono i vettori restituiti. Non esiste una superficie di completamento chat qui, né chiamata di strumenti o output strutturato da configurare.
Tenere presente l'ambito quando lo si sceglie. Questo è un modello di embedding, quindi non risponderà a domande, non scriverà codice né sosterrà una conversazione; abbinarlo a un modello generativo se servono questi comportamenti. Se il compito è la ricerca semantica generica su prosa anziché su codice, un modello di embedding testuale potrebbe adattarsi meglio, e se serve la generazione serve un modello completamente diverso. Per il recupero di codice e il contesto degli agenti di programmazione, voyage-code-4 è costruito esattamente per questo.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "mongodb/voyage-code-4",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Questa community non ha ancora discussioni. Apri la prima su VoyageAI by MongoDB: voyage-code-4.