Cohere: Rerank 4 Fast

Cohere: Rerank 4 Fast adalah model reranking dari Cohere, yang dirilis oleh penyedia pada 6 April 2026. Model ini berada dalam kategori rerank, bukan kategori chat atau generation: alih-alih menulis jawaban, model ini memberi skor dan mengurutkan ulang daftar dokumen kandidat terhadap sebuah query sehingga item yang paling relevan muncul lebih dulu. Cohere mendeskripsikannya sebagai model dasar pencarian AI yang dibangun untuk meningkatkan relevansi informasi yang dimunculkan dalam sistem pencarian dan retrieval augmented generation.

Model ini hanya menerima teks sebagai modalitas input dan menghasilkan output rerank, yaitu daftar dokumen terurut dengan skor relevansi. Model ini mendukung context window sebesar 32,768 token, yang berlaku untuk query dan dokumen yang dikirim dalam satu permintaan, dan memiliki output maksimum 29,491. Dukungan multibahasa mencakup lebih dari 100 bahasa, dan penyedia menyatakan bahwa tidak diperlukan pra-pemrosesan data sebelum Anda mengirim teks ke model.

Kemampuan tersebut mengarah pada serangkaian penggunaan yang cukup spesifik. Yang paling umum adalah tahap kedua dalam pipeline retrieval: retriever tahap pertama yang cepat mengembalikan sekumpulan besar kandidat, dan Rerank 4 Fast mengurutkan ulang kandidat tersebut sehingga bagian yang paling mungkin menjawab query berada di atas sebelum mencapai model generation. Pola yang sama berlaku untuk pencarian perusahaan, di mana urutan relevansi lebih penting daripada menghasilkan balasan, dan untuk sistem RAG yang perlu memangkas konteks berisik sebelum melakukan prompting ke LLM. Dukungan multibahasa membuatnya dapat digunakan dalam pipeline yang menangani query dan dokumen dalam banyak bahasa sekaligus, dan konteks 32K memungkinkan query panjang plus sekumpulan besar bagian kandidat dalam satu panggilan.

Anda memanggilnya melalui api14 menggunakan API yang kompatibel dengan OpenAI dengan model id "cohere/rerank-4-fast". Karena api14 menyediakan permukaan yang kompatibel dengan OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke base URL api14 dan mengubah field model ke id tersebut, alih-alih mengadopsi SDK terpisah. Model ini menerima input teks dan mengembalikan output rerank. Tidak ada parameter permintaan tambahan yang dicantumkan sebagai didukung untuk model ini, jadi rencanakan integrasi Anda berdasarkan default dan konten prompt serta dokumen yang Anda kirim, dan periksa tabel harga langsung di halaman untuk tarif terkini.

Satu batasan praktis yang perlu diingat adalah context window 32K, yang harus mencakup query dan semua dokumen kandidat dalam satu permintaan. Jika dokumen Anda panjang atau Anda perlu memberi peringkat pada kumpulan kandidat yang sangat besar dalam satu proses, bagi pekerjaan menjadi beberapa batch atau perpendek bagiannya terlebih dahulu. Rerank 4 Fast juga tidak akan menghasilkan teks; jika Anda memerlukan peringkasan, tanya jawab, atau output percakapan apa pun, pasangkan dengan model generation dan gunakan model ini murni untuk pengurutan.