Cohere: Rerank 4 Pro und Cohere: Rerank v3.5 sind beide Reranking-Modelle von Cohere. Reranking-Modelle nehmen eine Anfrage und eine Menge von Kandidatendokumenten oder Passagen entgegen und geben eine Relevanzreihenfolge zurück, was sie als zweite Stufe in einer Retrieval-Pipeline nach einer anfänglichen Vektor- oder Keyword-Suche nützlich macht. Beide Modelle sind auf api14 unter demselben Anbieter und derselben Kategorie gelistet, und beide akzeptieren Text als Eingabe und erzeugen ein Rerank-Ergebnis als Ausgabe. Keines der Modelle gibt im Katalog unterstützte Parameter an, sodass die Hauptentscheidung zwischen ihnen auf die Kontextkapazität statt auf Tuning-Optionen hinausläuft.
Der deutlichste Unterschied zwischen den beiden ist die Kontextlänge. Rerank 4 Pro akzeptiert bis zu 32768 Token, während Rerank v3.5 bis zu 4096 Token akzeptiert. Das ist eine erhebliche Lücke, und es ist der einzige qualitative Unterschied, der zwischen ihnen verzeichnet ist: Der größere Kontext gehört zu Rerank 4 Pro. Beide sind Text rein und Rerank raus, es gibt also keinen Unterschied bei den Modalitäten abzuwägen. Keines der Modelle ist als das einzige gekennzeichnet, das Tools, strukturierte Ausgabe oder Reasoning unterstützt, daher trennen diese Achsen sie nicht. Der Katalog verzeichnet keinen bedeutenden Preisunterschied in die eine oder andere Richtung, Kosten sind hier also kein entscheidender Faktor; prüfen Sie die aktuelle Preistabelle für die gegenwärtigen Zahlen.
In der Praxis folgt die Wahl daraus, wie viel Text jedes Kandidatenelement trägt. Wenn Sie kurze Passagen, einzelne Absätze oder Such-Snippets reranken, die bequem in ein paar tausend Token passen, ist Rerank v3.5 eine vernünftige Wahl und sein kleineres Fenster ist keine Einschränkung. Wenn Ihre Kandidaten lange Dokumente, mehrteilige Seiten oder Chunks sind, die Sie bewusst groß gehalten haben, um den umgebenden Kontext zu bewahren, ist Rerank 4 Pro die bessere Wahl, weil es diese Eingaben ohne Kürzung aufnehmen kann. Dieselbe Logik gilt, wenn Sie eine Anfrage plus mehrere Kandidatendokumente in einer Anfrage übergeben möchten: Das größere Fenster von Rerank 4 Pro gibt Ihnen mehr Spielraum, bevor Sie irgendetwas aufteilen oder kürzen müssen.
Beide Modelle über api14 aufzurufen funktioniert auf dieselbe Weise, weil die API OpenAI-kompatibel ist. Sie senden Ihre Anfrage an denselben Endpunkt mit derselben Anfrageform, und das Einzige, was sich ändert, ist die Modell-ID. Verwenden Sie "cohere/rerank-4-pro", wenn Sie das größere Kontextfenster möchten, und "cohere/rerank-v3.5", wenn das kleinere Fenster ausreicht. Da beide Modelle keine unterstützten Parameter angeben, müssen Sie beim Wechseln keine modellspezifischen Optionen anpassen; die Anfrage und die Dokumente, die Sie übergeben, sind es, was das Ergebnis bestimmt. Das macht es unkompliziert, mit einem Modell zu beginnen und zum anderen zu wechseln, falls sich Ihre Eingabegrößen ändern.
Es gibt weiterhin einen Fall für Rerank v3.5, selbst wenn Sie Zugang zu Rerank 4 Pro haben. Wenn Ihre Pipeline um kurze Chunks herum aufgebaut ist und Sie das größere Fenster nicht benötigen, hält das kleinere Modell Ihre Eingaben innerhalb einer engeren Grenze und passt zur Form der Daten, die Sie bereits senden. Da der Katalog keinen bedeutenden Preisunterschied und keinen Fähigkeitsunterschied über die Kontextlänge hinaus verzeichnet, geht es bei der Entscheidung im Wesentlichen um die Eingabegröße, und Rerank v3.5 bleibt eine gültige Wahl für Reranking-Workloads mit kurzem Text.