Cohere: Rerank v3.5

Cohere: Rerank v3.5 is een reranking-model van Cohere, vermeld onder de categorie rerank. Het is gemaakt door Cohere en wordt op api14 geïdentificeerd met het model-id cohere/rerank-v3.5. In plaats van vrije tekst te genereren, is het model gebouwd om zoekresultaten te herordenen zodat de meest relevante items eerst verschijnen.

Het model neemt tekst als invoer en produceert een rerank-uitvoer. De contextlengte is 4096 tokens en de maximale uitvoer is 3686. Cohere beschrijft Rerank v3.5 als ontworpen om zoekresultaten te herordenen voor verbeterde relevantie, met ondersteuning voor multi-aspect en semi-gestructureerde data-reranking in meer dan 100 talen. Het werkt op tekstinvoer en retourneert geherordende resultaten in plaats van proza, wat bepaalt hoe je de integratie moet verwachten.

De praktische use cases volgen direct uit dat gedrag. Rerank v3.5 is geschikt voor het verfijnen van resultaten uit semantisch of keyword-zoeken, waarbij een initiële retrieval-stap een kandidatenset retourneert en de reranker die kandidaten op relevantie herordent. Omdat het multi-aspect en semi-gestructureerde data aankan en meer dan 100 talen dekt, kan het worden gebruikt in meertalige zoekpijplijnen en in opstellingen waarin records meerdere velden of attributen bevatten die relevant zijn voor relevantie. Veelvoorkomende patronen zijn het verbeteren van de ordening van documenten die door een vectorzoekopdracht of een keyword-zoekopdracht worden geretourneerd, voordat die resultaten aan een gebruiker worden getoond of aan een andere stap worden doorgegeven.

Je roept het model aan via de OpenAI-compatibele API van api14 met het model-id cohere/rerank-v3.5. Volgens de modelmetadata is de lijst met ondersteunde parameters leeg, dus er zijn geen request-parameters buiten wat de API zelf vereist gedocumenteerd voor dit model. Plan je integratie rond het model-id en de stroom van tekstinvoer naar rerank-uitvoer, en ga er niet van uit dat instelbare sampling of vergelijkbare parameters hier beschikbaar zijn.

Gezien de contextlengte van 4096 tokens en de rerank-only uitvoer, past dit model bij retrieval- en ordeningstaken in plaats van generatie, samenvatting of chat. Als je een model nodig hebt dat tekst schrijft, een lang gesprek voert of niet-tekstuele invoer verwerkt, past een ander model op api14 beter.