Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
mongodb/rerank-2.5Berjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
VoyageAI by MongoDB: rerank-2.5 adalah model reranking dari VoyageAI by MongoDB. Model ini termasuk dalam kategori rerank, yang berarti tugasnya adalah mengambil sekumpulan hasil kandidat yang sudah ada dan mengurutkannya kembali berdasarkan relevansi, bukan menghasilkan teks baru dari awal. Ini adalah model teks, dan outputnya adalah hasil rerank.
Model ini menerima teks sebagai input dan menghasilkan output yang telah diurutkan ulang. Model ini memiliki panjang konteks 32.000 token dan output maksimum 28.800. Karena merupakan reranker, model ini tidak menulis prosa, menjawab pertanyaan, atau melakukan percakapan. Sebaliknya, model ini menilai dan mengurutkan passage relatif terhadap query, yang merupakan langkah yang biasanya berada di antara tahap retrieval awal dan kumpulan dokumen akhir yang diberikan ke model hilir atau ditampilkan kepada pengguna.
Bentuk seperti itu membuatnya berguna di mana pun kualitas retrieval menjadi penting. Pola yang umum adalah pipeline pencarian dua tahap: pencarian vektor atau kata kunci yang cepat mengembalikan daftar kandidat yang luas, dan rerank-2.5 mengurutkan ulang kandidat tersebut sehingga item yang paling relevan berada di atas. Ini berlaku untuk retrieval augmented generation, di mana pengurutan yang lebih baik berarti generator melihat konteks terkuat terlebih dahulu, dan untuk pencarian atas dokumentasi, tiket dukungan, basis pengetahuan internal, atau katalog produk. Ini juga cocok untuk pekerjaan evaluasi dan kurasi data, di mana Anda memerlukan pengurutan relevansi yang konsisten di seluruh kumpulan pasangan query dan dokumen yang besar.
Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "mongodb/rerank-2.5". Karena endpoint mengikuti format OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke api14 dengan mengubah base URL dan meneruskan model id tersebut dalam permintaan Anda. Model ini tidak mencantumkan parameter yang didukung, jadi tidak ada opsi sampling atau generasi yang perlu disetel; Anda mengirim query dan dokumen Anda lalu menerima pengurutan ulang kembali. Konteks 32.000 token adalah anggaran yang perlu diingat saat memutuskan berapa banyak kandidat yang akan dikirim dalam satu panggilan.
Jika tugas Anda adalah generasi teks, peringkasan, chat, atau penggunaan tool, reranker adalah alat yang salah dan model generatif akan lebih cocok. rerank-2.5 paling baik diperlakukan sebagai satu tahap dalam pipeline, bukan sebagai asisten mandiri, dan paling bernilai ketika Anda sudah memiliki kumpulan kandidat yang membutuhkan pengurutan yang lebih tajam.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Komunitas ini belum memiliki topik. Buka topik pertama tentang VoyageAI by MongoDB: rerank-2.5.