Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
mongodb/voyage-code-4Usa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
VoyageAI pela MongoDB: voyage-code-4 é um modelo de embedding de código da Voyage AI, uma empresa da MongoDB. Pertence à categoria de embeddings, portanto o seu trabalho é transformar a entrada em vetores em vez de gerar respostas de chat. Foi concebido para agentes de programação e recuperação de código, o que o coloca na parte de uma stack onde é necessário representar código como vetores que podem ser armazenados, comparados e pesquisados.
O modelo aceita texto como entrada e produz embeddings como saída. Tem um comprimento de contexto de 32.000 tokens e uma saída máxima de 28.800, e utiliza embeddings Matryoshka com 2048 dimensões. Os embeddings Matryoshka podem ser truncados para comprimentos mais curtos mantendo-se utilizáveis, o que lhe dá flexibilidade na quantidade de armazenamento de vetores e computação que compromete. Como a modalidade de entrada é texto, o modelo funciona sobre código que foi serializado como texto, que é como ficheiros de código-fonte, diffs e fragmentos normalmente chegam a um endpoint de embedding.
Essas capacidades apontam para um conjunto bastante específico de utilizações. A recuperação de código é a principal: indexar um repositório para que uma consulta de pesquisa, uma descrição em linguagem natural ou um fragmento de código devolva os ficheiros ou funções mais relevantes. Os agentes de programação podem usar os mesmos embeddings para encontrar contexto relevante antes de editar ou gerar código, o que mantém o agente ancorado na base de código real em vez de depender do que cabe num prompt. O contexto de 32.000 tokens significa que ficheiros maiores ou blocos com vários ficheiros podem ser incorporados num único pedido, e a propriedade Matryoshka permite-lhe trocar o tamanho do vetor pela qualidade da recuperação quando concebe o seu índice.
Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "mongodb/voyage-code-4". Como a interface segue o formato OpenAI, pode apontar um cliente OpenAI existente para a api14 e enviar pedidos de embedding sem reescrever a sua integração. O modelo não suporta parâmetros de pedido adicionais, por isso envia o id do modelo e o seu texto de entrada e lê os vetores devolvidos. Não há aqui superfície de conclusão de chat, nem chamada de ferramentas ou saída estruturada para configurar.
Tenha o âmbito em mente ao escolhê-lo. Este é um modelo de embedding, por isso não responderá a perguntas, não escreverá código nem manterá uma conversa; emparelhe-o com um modelo generativo se precisar desses comportamentos. Se a sua tarefa for pesquisa semântica de propósito geral sobre prosa em vez de código, um modelo de embedding de texto pode encaixar melhor, e se precisar de geração precisa de um modelo completamente diferente. Para recuperação de código e contexto de agentes de programação, o voyage-code-4 foi construído exatamente para isso.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "mongodb/voyage-code-4",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre VoyageAI by MongoDB: voyage-code-4.