Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
cohere/rerank-5-fastBerjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
Cohere: Rerank 5 Fast adalah model reranking dari Cohere, diposisikan sebagai tier latensi rendah dari keluarga Rerank 5 perusahaan tersebut. Alih-alih menghasilkan teks, model ini memberi skor dan mengurutkan ulang dokumen kandidat terhadap sebuah query, yang menempatkannya pada tahap retrieval dalam pipeline pencarian atau RAG, bukan pada tahap generation.
Model ini bekerja dengan input teks dan menghasilkan output rerank, yang berarti responsnya berupa pengurutan dokumen yang Anda berikan, bukan prosa baru. Model ini mendukung panjang konteks 32768 token, dan output maksimumnya adalah 29491. Karena dirancang untuk penilaian dan pengurutan ulang, model ini tidak menerima parameter sampling atau generation yang biasanya Anda harapkan dari model chat.
Kasus penggunaan praktisnya mengikuti langsung dari perilaku tersebut. Jika Anda menjalankan retriever tahap pertama seperti vector search atau keyword search, Rerank 5 Fast dapat mengambil kandidat teratas yang dikembalikannya dan mengurutkannya ulang sehingga dokumen paling relevan berada di posisi teratas. Hal ini meningkatkan kualitas apa yang Anda masukkan ke generator jawaban hilir, dan juga membantu ketika Anda menampilkan hasil pencarian langsung kepada pengguna. Tier latensi rendah ini ditujukan untuk retrieval berthroughput tinggi, sehingga cocok untuk pipeline yang mengirim banyak query dan tidak dapat menanggung langkah reranking yang lambat pada setiap query.
Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "cohere/rerank-5-fast". Karena endpoint mengikuti format OpenAI, Anda dapat mengarahkan pustaka klien OpenAI yang sudah ada ke api14 dan meneruskan id tersebut sebagai model. Model ini tidak mencantumkan parameter yang didukung, sehingga permintaan mengandalkan model id bersama query dan dokumen kandidat Anda, bukan pada opsi penyetelan.
Karena Rerank 5 Fast hanya mengurutkan ulang dokumen yang Anda berikan, model ini tidak cocok ketika Anda membutuhkan generation teks, peringkasan, atau penalaran atas sebuah prompt. Tugas-tugas tersebut memerlukan model generatif, dengan reranking diterapkan sebelumnya jika kualitas retrieval penting.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Komunitas ini belum memiliki topik. Buka topik pertama tentang Cohere: Rerank 5 Fast.