NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

NVIDIA: Llama Nemotron Rerank VL 1B V2 (gratis) adalah model reranking multimodal dari NVIDIA. Model ini termasuk dalam kategori rerank, dan tugasnya lebih sempit daripada model chat atau generasi: model ini mengevaluasi seberapa relevan sebuah dokumen terhadap kueri pengguna. Model ini adalah sistem dengan 1,7B parameter, dan versi yang disediakan di sini adalah rilis V2. NVIDIA membangunnya secara khusus untuk tahap perankingan dalam pipeline retrieval, termasuk pipeline yang bekerja dengan gambar maupun teks.

Pada input, model ini menerima teks dan gambar. Pada output, model ini menghasilkan hasil rerank, bukan prosa yang dihasilkan. Artinya, Anda memberikan kueri beserta dokumen kandidat, yang bisa berupa gambar dokumen atau teks, dan model mengembalikan penilaian relevansi yang dapat Anda gunakan untuk mengurutkan kandidat tersebut. Jendela konteksnya adalah 10.240 token, dengan output maksimum 9.216. Karena anggaran input dan output berada dalam rentang tersebut, kendala praktisnya adalah seberapa banyak konten kueri dan dokumen yang Anda masukkan ke dalam satu panggilan penilaian.

Kasus penggunaan yang jelas adalah vision RAG. Jika sistem retrieval Anda mengindeks halaman hasil pindai, tangkapan layar, dek presentasi, PDF yang dirender sebagai gambar, atau korpus apa pun yang maknanya bergantung pada tata letak dan elemen visual, reranker yang hanya berbasis teks akan kehilangan sebagian sinyal. Model ini menilai gambar dokumen terhadap kueri secara langsung, sehingga dapat ditempatkan di antara retriever tahap pertama dan langkah generasi, mengurutkan ulang kandidat agar yang paling relevan mencapai jendela konteks model mana pun yang menulis jawaban akhir. Reranking yang hanya berbasis teks juga tetap berfungsi, jadi korpus campuran tidak masalah.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI dari api14 menggunakan model id "nvidia/llama-nemotron-rerank-vl-1b-v2:free". Karena antarmukanya kompatibel dengan OpenAI, Anda mengarahkan klien yang sudah ada ke base URL api14 dan memasukkan id tersebut di field model. Perlu dicatat bahwa model ini tidak mencantumkan parameter yang didukung selain yang dasar, jadi tidak ada pengaturan tambahan seperti kontrol sampling atau format respons kustom yang dapat dikonfigurasi untuknya. Batasi permintaan Anda pada konten pesan standar ditambah model id.

Daftar parameter yang kosong itu perlu diperhitungkan. Jika aplikasi Anda mengharapkan pengaturan temperature, top_p, atau setelan serupa, ini bukan model untuk itu; model generatif akan lebih cocok. Demikian pula, jika tugas Anda adalah menghasilkan teks, bukan mengurutkan kandidat, reranker adalah alat yang salah. Model ini cocok pada tahap perankingan, terutama ketika dokumen Anda berupa gambar dan Anda menginginkan penilaian relevansi yang memperhitungkannya.