VoyageAI by MongoDB: rerank-3-lite

VoyageAI oleh MongoDB: rerank-3-lite adalah model reranking dari Voyage AI, sebuah provider yang modelnya kini dikaitkan dengan MongoDB. Model ini berada di kategori rerank, yang berarti tugasnya bukan menghasilkan teks melainkan mengambil sekumpulan dokumen kandidat dan mengurutkannya kembali berdasarkan relevansi terhadap sebuah query. Model ini diposisikan sebagai upgrade drop-in untuk rerank-2.5-lite, sehingga tim yang sudah menggunakan model tersebut dapat beralih ke model ini tanpa merombak pipeline mereka. Menurut provider, model ini dioptimalkan untuk latensi sekaligus kualitas, meningkatkan rerank-2.5-lite sebesar 0,94% NDCG@10 secara rata-rata pada evaluasi domain dan sebesar 1,86% pada ukuran lain.

Model ini menerima teks sebagai input dan menghasilkan hasil yang telah diurutkan kembali sebagai output. Panjang konteksnya adalah 32.000 token, yang mencakup query dan bagian kandidat yang Anda kirimkan bersama dalam satu permintaan. Output maksimum tercatat 28.800. Karena ini adalah reranker dan bukan model chat atau completion, model ini tidak menulis prosa atau menjawab pertanyaan secara langsung; model ini mengembalikan urutan yang mencerminkan seberapa baik setiap kandidat cocok dengan query.

Bentuk output seperti itu membuatnya berguna dalam pipeline retrieval. Pola yang umum adalah menjalankan pencarian tahap pertama yang cepat, seperti pencarian vektor atau kata kunci, untuk menarik kumpulan kandidat yang luas, lalu meneruskan kandidat tersebut ke rerank-3-lite untuk mengurutkannya sebelum sampai ke pengguna atau ke tahap berikutnya dari sebuah aplikasi. Hal ini berlaku untuk pencarian atas dokumentasi, artikel dukungan, katalog produk, atau basis pengetahuan internal, dan untuk retrieval augmented generation, di mana kualitas beberapa bagian teratas sangat memengaruhi jawaban akhir. Penekanan pada latensi membuatnya cukup cocok untuk pencarian interaktif, di mana langkah reranking harus selesai dengan cepat.

Anda dapat memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "voyageai/rerank-3-lite". Karena endpoint-nya mengikuti format yang kompatibel dengan OpenAI, Anda dapat menggunakan pustaka klien OpenAI yang sudah ada dan mengarahkannya ke api14, sehingga pekerjaan integrasi tetap kecil jika Anda sudah memiliki klien semacam itu. Model ini tidak mencantumkan parameter yang didukung, jadi tidak ada opsi penyetelan tambahan yang perlu diatur selain model id dan konten permintaan Anda. Perhatikan bahwa tanggal rilis provider adalah 2026-09-30.

Jika tugas Anda adalah pembuatan teks, peringkasan, atau percakapan dan bukan memberi peringkat pada sekumpulan kandidat, model chat atau completion akan lebih cocok, karena rerank-3-lite hanya mengeluarkan urutan. Ada baiknya juga memeriksa bahwa kumpulan kandidat dan query Anda muat dalam konteks 32.000 token, dan memisahkan atau memangkasnya jika tidak muat.