Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
mongodb/rerank-3Usa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
VoyageAI by MongoDB: rerank-3 é um modelo de reranking da VoyageAI by MongoDB. Ele se situa na categoria rerank e é posicionado como uma atualização direta do rerank-2.5, o que significa que equipes que já usam o modelo anterior podem migrar para o rerank-3 sem retrabalhar sua integração. O modelo é construído para qualidade de recuperação em vez de geração, então ele pertence à parte de um pipeline que decide como resultados de busca ou passagens candidatas devem ser ordenados antes de chegarem a um usuário ou a um modelo downstream.
O modelo recebe texto como entrada e produz uma saída de reranking. Ele suporta um comprimento de contexto de 32.000 tokens, com uma saída máxima de 28.800, o que é espaço suficiente para pontuar passagens candidatas longas junto com uma consulta em vez de apenas trechos curtos. Como a modalidade de entrada é texto e a modalidade de saída é rerank, o modelo não gera prosa ou respostas de chat; ele retorna uma ordenação das passagens que recebe. Isso o torna um componente de pontuação e ordenação em vez de um componente conversacional.
Casos de uso práticos decorrem diretamente desse formato. Um pipeline de recuperação pode buscar um conjunto amplo de candidatos com uma busca rápida de primeiro estágio, depois passar a consulta e esses candidatos para o rerank-3 para produzir uma ordenação final melhor. Isso é útil em busca sobre documentação, bases de conhecimento internas, conteúdo de suporte ou qualquer corpus em que os principais resultados importam mais do que a recall bruta. Também se encaixa em configurações de geração aumentada por recuperação, em que a qualidade das passagens colocadas em um prompt afeta a resposta que se segue. O contexto longo e a permissão de saída longa o tornam adequado para coleções que incluem documentos extensos, já que o modelo pode considerar mais de cada candidato ao atribuir sua posição.
Você chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "mongodb/rerank-3". Como a interface segue o formato OpenAI, você pode apontar um cliente OpenAI existente para a api14 e selecionar esse id de modelo na sua requisição. O modelo não lista parâmetros suportados além do próprio id de modelo, então você não deve esperar ajustar configurações de amostragem ou geração, como temperature ou top_p; essas pertencem a modelos generativos, não a um reranker. Envie a consulta e os textos candidatos, e leia de volta a saída de reranking.
Vale notar que o rerank-3 é um reranker, então não é a escolha certa quando você precisa de geração de texto, chat, sumarização ou embeddings. Se sua tarefa é produzir uma resposta em vez de ordenar candidatos, um modelo generativo se encaixa melhor. Se sua tarefa é criar as representações vetoriais iniciais que um reranker depois reordena, um modelo de embedding é o componente apropriado. Dentro do trabalho de reranking, o rerank-3 é o sucessor direto do rerank-2.5, e o provedor relata melhorias sobre esse modelo de 0,80% NDCG@10 em média nas avaliações de domínio e 3,35% nas avaliações de documentos longos.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre VoyageAI by MongoDB: rerank-3.