NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (gratis) adalah model reranking dari NVIDIA, diterbitkan dengan id model nvidia/nemotron-3.5-rerank-8b:free. Model ini termasuk kategori rerank, jadi tugasnya bukan menghasilkan teks percakapan melainkan memberi skor dan mengurutkan ulang sekumpulan kandidat terhadap suatu query. Tanggal rilis penyedia adalah 2026-10-21. Di api14 model ini ditawarkan sebagai varian gratis, sehingga mudah untuk dievaluasi terhadap data retrieval Anda sendiri sebelum dipakai di produksi.

Model ini menerima input teks dan gambar serta menghasilkan output rerank. Panjang konteksnya 32768 token, dan output maksimumnya 29491. Karena menangani teks dan gambar sekaligus, model ini dapat dipakai dalam pipeline di mana item yang diranking tidak sepenuhnya tekstual. Modalitas outputnya adalah rerank, bukan teks, jadi Anda sebaiknya mengharapkan skor relevansi atau urutan, bukan jawaban dalam bentuk prosa.

Kasus penggunaan praktisnya mengikuti bentuk tersebut. Salah satu yang umum adalah retrieval tahap kedua: ambil hasil teratas dari pencarian vektor atau kata kunci, lalu minta model ini memberi skor ulang agar item yang paling relevan naik ke atas. Pola yang sama berlaku untuk retrieval augmented generation, di mana pengurutan passage yang diambil yang lebih baik meningkatkan kualitas model generator apa pun yang Anda pakai di hilir. Karena input gambar didukung, model ini juga dapat meranking kandidat media campuran, misalnya memilih gambar paling relevan atau dokumen yang berisi gambar untuk query tertentu. Model ini juga pilihan yang wajar untuk tugas deduplikasi atau prioritisasi ketika Anda punya kumpulan kandidat dan butuh urutan yang dapat dipertanggungjawabkan.

Anda memanggilnya melalui API yang kompatibel dengan OpenAI di api14 menggunakan id model nvidia/nemotron-3.5-rerank-8b:free. Karena endpoint-nya mengikuti skema OpenAI, Anda dapat mengarahkan klien OpenAI yang sudah ada ke base URL api14 dan mengubah field model, sehingga pekerjaan integrasinya kecil. Model ini tidak mencantumkan parameter yang didukung, jadi Anda tidak boleh mengandalkan opsi penyetelan seperti temperature atau top_p akan diterima; kirim query dan item kandidat dalam permintaan lalu baca output rerank. Jika Anda perlu mengontrol perilaku pengurutan, lakukan di sisi Anda melalui cara Anda menyusun dan membatch kandidat.

Mengingat daftar parameter yang didukung kosong, model ini paling baik diperlakukan sebagai fungsi tetap, bukan sesuatu yang Anda kendalikan dengan pengaturan sampling. Jika tugas Anda adalah pembuatan teks, peringkasan, atau chat, model generatif akan lebih cocok, karena model ini hanya mengembalikan output rerank. Konteks 32768 token dan output maksimum 29491 membatasi berapa banyak materi kandidat yang dapat Anda kirim dalam satu permintaan, jadi untuk kumpulan kandidat yang sangat besar Anda perlu membatch. Model ini pilihan yang masuk akal ketika Anda menginginkan reranker gratis yang sadar gambar dan dapat bekerja dalam batasan tersebut.