Cohere: Rerank v3.5

Cohere: Rerank v3.5 é um modelo de reranking da Cohere, listado na categoria rerank. É feito pela Cohere e é identificado na api14 pelo id de modelo cohere/rerank-v3.5. Em vez de gerar texto de forma livre, o modelo é construído para reordenar resultados de pesquisa para que os itens mais relevantes apareçam primeiro.

O modelo recebe texto como entrada e produz uma saída de rerank. O seu comprimento de contexto é de 4096 tokens, e a saída máxima é de 3686. A Cohere descreve o Rerank v3.5 como concebido para reordenar resultados de pesquisa para melhorar a relevância, com suporte para reranking multi-aspecto e de dados semiestruturados em mais de 100 idiomas. Funciona com entrada de texto e devolve resultados reordenados em vez de prosa, o que molda a forma como deve esperar integrá-lo.

Os casos de uso práticos decorrem diretamente desse comportamento. O Rerank v3.5 é adequado para refinar resultados de pesquisa semântica ou por palavras-chave, onde um passo inicial de recuperação devolve um conjunto de candidatos e o reranker reordena esses candidatos por relevância. Como lida com dados multi-aspecto e semiestruturados e cobre mais de 100 idiomas, pode ser usado em pipelines de pesquisa multilingue e em configurações onde os registos transportam vários campos ou atributos que importam para a relevância. Os padrões comuns incluem melhorar a ordenação de documentos devolvidos por uma pesquisa vetorial ou por uma pesquisa por palavras-chave antes de esses resultados serem mostrados a um utilizador ou passados para outro passo.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo cohere/rerank-v3.5. De acordo com os metadados do modelo, a lista de parâmetros suportados está vazia, pelo que não estão documentados para este modelo quaisquer parâmetros de pedido além dos que a própria API exige. Planeie a sua integração em torno do id de modelo e do fluxo de entrada de texto para saída de rerank, e não assuma que parâmetros ajustáveis de amostragem ou semelhantes estão disponíveis aqui.

Dado o comprimento de contexto de 4096 tokens e a saída apenas de rerank, este modelo encaixa em tarefas de recuperação e ordenação em vez de geração, sumarização ou chat. Se precisar de um modelo que escreva texto, mantenha uma conversa longa ou lide com entradas que não sejam texto, um modelo diferente na api14 encaixaria melhor.