Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
mongodb/rerank-2.5Usa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
VoyageAI by MongoDB: rerank-2.5 é um modelo de reranking da VoyageAI by MongoDB. Pertence à categoria rerank, o que significa que a sua função é pegar num conjunto existente de resultados candidatos e reordená-los por relevância, em vez de gerar texto novo de raiz. É um modelo de texto, e o seu output é um resultado de rerank.
O modelo aceita texto como input e produz output reordenado. Tem um comprimento de contexto de 32.000 tokens e um output máximo de 28.800. Como é um reranker, não escreve prosa, não responde a perguntas nem mantém uma conversa. Em vez disso, pontua e ordena passagens relativamente a uma query, que é o passo que tipicamente fica entre uma passagem inicial de retrieval e o conjunto final de documentos entregue a um modelo a jusante ou mostrado a um utilizador.
Essa forma torna-o útil sempre que a qualidade do retrieval importa. Um padrão comum é um pipeline de pesquisa em dois estágios: uma pesquisa vetorial ou por palavras-chave rápida devolve uma lista ampla de candidatos, e o rerank-2.5 reordena esses candidatos para que os itens mais relevantes fiquem no topo. Isto aplica-se a retrieval augmented generation, onde uma melhor ordenação significa que o gerador vê primeiro o contexto mais forte, e a pesquisa sobre documentação, tickets de suporte, bases de conhecimento internas ou catálogos de produtos. Também se adequa a trabalho de avaliação e curadoria de dados, onde precisas de uma ordenação de relevância consistente ao longo de um grande conjunto de pares de query e documento.
Chamas o modelo através da API compatível com OpenAI da api14 usando o model id "mongodb/rerank-2.5". Como o endpoint segue o formato OpenAI, podes apontar um cliente OpenAI existente para a api14 alterando o base URL e passando esse model id no teu pedido. O modelo não lista parâmetros suportados, por isso não há opções de sampling ou geração para ajustar; envias a tua query e documentos e recebes a ordenação reordenada de volta. O contexto de 32.000 tokens é o orçamento a ter em conta ao decidir quantos candidatos submeter numa única chamada.
Se a tua tarefa é geração de texto, sumarização, chat ou uso de ferramentas, um reranker é a ferramenta errada e um modelo generativo encaixará melhor. O rerank-2.5 é melhor tratado como um estágio num pipeline e não como um assistente autónomo, e é mais valioso quando já tens um conjunto de candidatos que precisa de uma ordenação mais precisa.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre VoyageAI by MongoDB: rerank-2.5.