VoyageAI by MongoDB: rerank-3-lite

VoyageAI pela MongoDB: rerank-3-lite é um modelo de reranking da Voyage AI, um fornecedor cujos modelos estão agora associados à MongoDB. Situa-se na categoria rerank, o que significa que a sua função não é gerar texto, mas sim receber um conjunto de documentos candidatos e reordená-los por relevância em relação a uma consulta. Está posicionado como uma atualização direta do rerank-2.5-lite, pelo que as equipas que já utilizam esse modelo podem mudar para este sem refazer o seu pipeline. Segundo o fornecedor, está otimizado tanto para latência como para qualidade, melhorando o rerank-2.5-lite em 0,94% NDCG@10 em média nas avaliações de domínio e em 1,86% numa medida adicional.

O modelo aceita texto como entrada e produz um resultado reordenado como saída. O seu comprimento de contexto é de 32.000 tokens, o que abrange a consulta e as passagens candidatas que submete em conjunto num único pedido. A saída máxima indicada é 28.800. Como é um reranker e não um modelo de chat ou de conclusão, não escreve prosa nem responde diretamente a perguntas; devolve uma ordenação que reflete quão bem cada candidato corresponde à consulta.

Esse formato de saída torna-o útil em pipelines de recuperação. Um padrão comum é executar uma pesquisa rápida de primeira fase, como uma pesquisa vetorial ou por palavras-chave, para obter um conjunto amplo de candidatos, e depois passar esses candidatos ao rerank-3-lite para os ordenar antes de chegarem ao utilizador ou à fase seguinte de uma aplicação. Isto aplica-se a pesquisas sobre documentação, artigos de suporte, catálogos de produtos ou bases de conhecimento internas, e à geração aumentada por recuperação, onde a qualidade das primeiras passagens afeta fortemente a resposta final. A ênfase na latência torna-o adequado para pesquisa interativa, onde o passo de reranking tem de ser concluído rapidamente.

Pode chamá-lo através da API compatível com OpenAI da api14 usando o id de modelo "voyageai/rerank-3-lite". Como o endpoint segue o formato compatível com OpenAI, pode usar bibliotecas de cliente OpenAI existentes e apontá-las para a api14, o que mantém o trabalho de integração reduzido se já tiver esse cliente em funcionamento. O modelo não lista parâmetros suportados, pelo que não há opções extra de afinação a definir além do id de modelo e do conteúdo do seu pedido. Note que a data de lançamento do fornecedor é 2026-09-30.

Se a sua tarefa for geração de texto, sumarização ou conversação em vez de ordenar um conjunto de candidatos, um modelo de chat ou de conclusão será mais adequado, uma vez que o rerank-3-lite apenas produz uma ordenação. Também vale a pena verificar se o seu conjunto de candidatos e a consulta cabem no contexto de 32.000 tokens, e dividir ou cortar se não couberem.