Usamos cookies. Cookies e o armazenamento do navegador mantêm você conectado e lembram suas preferências. Com sua permissão, também medimos como o site é usado. Você pode a qualquer momento. Veja nossa política de cookies.
mongodb/rerank-3-liteUsa o seu saldo, aos preços acima. Novas contas começam com uso grátis.
Configurações
VoyageAI by MongoDB: rerank-3-lite é um modelo de reranking da VoyageAI by MongoDB. Ele pertence à categoria rerank, e sua função é receber um conjunto de documentos candidatos e reordená-los por relevância em relação a uma consulta, em vez de gerar novo texto. Ele é posicionado como uma atualização direta do rerank-2.5-lite, o que significa que equipes que já usam esse modelo podem migrar para este sem alterar a forma como o integram.
O modelo aceita texto como entrada e produz um reranking como saída. Ele tem um comprimento de contexto de 32.000 tokens e uma saída máxima de 28.800. Como seu propósito é pontuar e ordenar, e não gerar, o resultado útil que ele retorna é uma ordenação de relevância sobre as passagens fornecidas, e ele foi construído para equilibrar latência e qualidade. Em avaliações de domínio, ele supera o rerank-2.5-lite em 0,94% de NDCG@10 em média, com uma melhoria adicional de 1,86%. Esse ganho medido o torna uma substituição de baixo risco onde o modelo lite anterior já está em produção.
Os casos de uso práticos decorrem diretamente dessas capacidades. Ele se encaixa em pipelines de geração aumentada por recuperação, onde um recuperador de primeiro estágio retorna um conjunto amplo de candidatos e o reranker os restringe e ordena antes que cheguem a um modelo de linguagem. Ele é adequado para busca e busca em sites, onde a ordenação dos resultados importa mais do que a correspondência bruta. Ele também se encaixa em perguntas e respostas sobre coleções de documentos, bases de conhecimento internas e conteúdo de suporte, e qualquer fluxo de trabalho que precise de passagens ordenadas por quão bem respondem a uma consulta específica. O grande orçamento de contexto significa que passagens candidatas longas podem ser incluídas sem truncamento agressivo, e a ênfase na latência o torna razoável para aplicações interativas, e não apenas para tarefas em lote offline.
Você o chama através da API compatível com OpenAI da api14 usando o id de modelo "mongodb/rerank-3-lite". A lista de parâmetros suportados está vazia, então passe o id de modelo com sua entrada e conte com os padrões em vez de esperar opções de ajuste na requisição. Como o endpoint segue o formato compatível com OpenAI, bibliotecas de cliente e caminhos de código existentes podem ser apontados para a api14 e este id de modelo com mudança mínima.
Vale notar que este é um reranker, não um gerador. Se sua tarefa é escrever respostas, resumir ou manter uma conversa, um modelo de geração de texto é a escolha certa, e este modelo funciona melhor como um estágio antes de um deles. Se você precisa pontuar ou ordenar texto em relação a uma consulta, ele é o encaixe apropriado.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Esta comunidade ainda não tem tópicos. Abra o primeiro sobre VoyageAI by MongoDB: rerank-3-lite.