VoyageAI by MongoDB: rerank-3

VoyageAI by MongoDB: rerank-3 é um modelo de reranking da Voyage AI, um fornecedor que agora faz parte da MongoDB. Situa-se na categoria de rerank, e a Voyage AI posiciona-o como um reranker otimizado e uma atualização direta do rerank-2.5. Este não é um modelo de chat ou de geração de texto: existe para receber um conjunto de documentos candidatos e reordená-los por relevância para uma consulta.

O modelo trabalha com entrada de texto e produz saída de reranking. Tem um comprimento de contexto de 32.000 tokens, suficientemente grande para acomodar uma consulta juntamente com um lote substancial de passagens candidatas numa única chamada. A saída máxima é 28.800. Por ser um reranker, a forma de uma resposta é uma ordenação classificada dos documentos que fornece, não texto em formato livre. Não estão listados parâmetros suportados para este modelo, pelo que os utilizadores não devem esperar os controlos de amostragem (temperature, top_p e semelhantes) que se aplicam a modelos generativos.

Os casos de uso práticos decorrem diretamente desse design. Um padrão comum é um pipeline de recuperação em duas etapas: uma pesquisa vetorial ou por palavras-chave rápida devolve um conjunto amplo de candidatos, e depois o rerank-3 reordena-os para que os resultados mais relevantes apareçam no topo. Isto melhora a qualidade dos resultados de pesquisa, do contexto de geração aumentada por recuperação, de resposta a perguntas sobre uma coleção de documentos, e de funcionalidades de recomendação ou correspondência onde a classificação por relevância é importante. Como o fornecedor descreve ganhos em avaliações de documentos longos, também é uma escolha razoável quando as passagens a classificar são extensas em vez de trechos curtos.

Para o chamar através do api14, use o id de modelo "voyageai/rerank-3" no endpoint compatível com OpenAI. Como o api14 expõe uma API compatível com OpenAI, aponta o seu cliente existente para o gateway e passa esse id como o modelo. Uma vez que o modelo não lista parâmetros suportados, deve enviar um pedido simples com a sua consulta e os documentos a classificar, e confiar no próprio comportamento de classificação do modelo em vez de ajustar definições de descodificação.

Um limite que vale a pena notar é o âmbito. O rerank-3 apenas faz reranking de texto; não gera respostas ou resumos, por isso, se precisar de um modelo que produza texto, iria emparelhá-lo com um modelo generativo. Além disso, se o seu pipeline não tem uma etapa de recuperação separada e só precisa de uma pesquisa de embeddings de primeira passagem, um modelo de embedding dedicado pode ser o ponto de partida mais simples, com o rerank-3 adicionado mais tarde para refinar a ordenação.