Kami menggunakan cookie. Cookie dan penyimpanan browser menjaga Anda tetap masuk dan mengingat preferensi Anda. Dengan izin Anda, kami juga mengukur cara situs digunakan. Anda dapat kapan saja. Lihat kebijakan cookie kami.
mongodb/rerank-3-liteBerjalan dengan saldo Anda sesuai harga di atas. Akun baru mendapat pemakaian gratis.
Pengaturan
VoyageAI oleh MongoDB: rerank-3-lite adalah model reranking dari VoyageAI oleh MongoDB. Model ini termasuk dalam kategori rerank, dan tugasnya adalah mengambil sekumpulan dokumen kandidat dan mengurutkannya kembali berdasarkan relevansi terhadap sebuah kueri, bukan untuk menghasilkan teks baru. Model ini diposisikan sebagai peningkatan pengganti langsung untuk rerank-2.5-lite, yang berarti tim yang sudah menggunakan model tersebut dapat beralih ke model ini tanpa mengubah cara mereka mengintegrasikannya.
Model ini menerima teks sebagai masukan dan menghasilkan reranking sebagai keluaran. Model ini memiliki panjang konteks sebesar 32.000 token dan keluaran maksimum 28.800. Karena tujuannya adalah penilaian dan pengurutan bukan generasi, hal berguna yang dikembalikannya adalah urutan relevansi atas bagian-bagian yang Anda sediakan, dan model ini dibangun untuk menyeimbangkan latensi dengan kualitas. Melalui evaluasi lintas domain, model ini meningkatkan performa rerank-2.5-lite sebesar 0,94% NDCG@10 rata-rata, dengan peningkatan lebih lanjut sebesar 1,86%. Keuntungan yang terukur ini menjadikannya pengganti berisiko rendah di mana model lite sebelumnya sudah digunakan dalam produksi.
Studi kasus praktis mengikuti secara langsung dari kapabilitas tersebut. Model ini cocok untuk alur kerja generasi yang diperkaya dengan pengambilan informasi, di mana penarik tahap pertama mengembalikan sekumpulan kandidat yang luas dan reranker mempersempit serta mengurutkannya sebelum mencapai model bahasa. Model ini cocok untuk pencarian dan pencarian situs, di mana urutan hasil lebih penting daripada kecocokan mentah. Model ini juga cocok untuk tanya jawab atas koleksi dokumen, basis pengetahuan internal, dan konten dukungan, serta alur kerja apa pun yang memerlukan bagian-bagian diurutkan berdasarkan seberapa baik mereka menjawab kueri tertentu. Anggaran konteks yang besar berarti bagian kandidat yang panjang dapat disertakan tanpa pemotongan yang agresif, dan penekanan pada latensi membuatnya layak untuk aplikasi interaktif daripada hanya pekerjaan batch offline.
Anda memanggil model ini melalui API OpenAI-compatible api14 menggunakan model id "mongodb/rerank-3-lite". Daftar parameter yang didukung kosong, jadi berikan model id bersama masukan Anda dan andalkan nilai default daripada mengharapkan opsi penyesuaian pada permintaan. Karena endpoint mengikuti bentuk yang kompatibel dengan OpenAI, pustaka klien dan jalur kode yang sudah ada dapat diarahkan ke api14 dan model id ini dengan perubahan minimal.
Perlu dicatat bahwa ini adalah reranker, bukan generator. Jika tugas Anda adalah menulis jawaban, meringkas, atau melakukan percakapan, model generasi teks adalah pilihan yang tepat, dan model ini bekerja paling baik sebagai tahap di depan model tersebut. Jika Anda perlu menilai atau mengurutkan teks terhadap sebuah kueri, maka model ini adalah pilihan yang sesuai.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Komunitas ini belum memiliki topik. Buka topik pertama tentang VoyageAI by MongoDB: rerank-3-lite.