NVIDIA: Nemotron 3.5 Rerank 8B (free)

NVIDIA: Nemotron 3.5 Rerank 8B (ücretsiz), NVIDIA tarafından sunulan ve nvidia/nemotron-3.5-rerank-8b:free model kimliğiyle yayımlanan bir yeniden sıralama modelidir. Rerank kategorisine aittir, yani görevi sohbet metni üretmek değil, bir sorguya karşı bir dizi aday öğeyi puanlamak ve yeniden sıralamaktır. Sağlayıcı sürüm tarihi 2026-10-21'dir. api14 üzerinde ücretsiz bir varyant olarak sunulur, bu da üretimde kullanmaya karar vermeden önce kendi erişim verilerinizle değerlendirmeyi kolaylaştırır.

Model metin ve görüntü girdilerini kabul eder ve rerank çıktısı üretir. Bağlam uzunluğu 32768 token, maksimum çıktı 29491'dir. Hem metni hem de görüntüleri işleyebildiği için, sıralanan öğelerin tamamen metinsel olmadığı akışlarda kullanılabilir. Çıktı modalitesi metin değil rerank'tir, bu nedenle düz yazı yanıtlar yerine alaka puanları veya bir sıralama beklemelisiniz.

Pratik kullanım senaryoları doğrudan bu yapıdan kaynaklanır. Yaygın bir senaryo ikinci aşama erişimdir: bir vektör veya anahtar kelime aramasının en iyi sonuçlarını alın, ardından bu modelin bunları yeniden puanlamasını sağlayın, böylece en alakalı öğeler üste çıksın. Aynı desen, erişimle güçlendirilmiş üretim için de geçerlidir; erişilen pasajların daha iyi sıralanması, aşağı akışta kullandığınız üretici modelin kalitesini artırır. Görüntü girdisi desteklendiği için karma medya adaylarını da sıralayabilir, örneğin belirli bir sorgu için en alakalı görüntüleri veya görüntü içeren belgeleri seçebilir. Ayrıca, bir aday havuzunuz olduğunda ve savunulabilir bir sıralamaya ihtiyaç duyduğunuzda yinelenenleri ayıklama veya önceliklendirme görevleri için de makul bir seçimdir.

Modeli, nvidia/nemotron-3.5-rerank-8b:free model kimliğini kullanarak api14'ün OpenAI uyumlu API'si üzerinden çağırırsınız. Uç nokta OpenAI şemasını izlediği için mevcut bir OpenAI istemcisini api14'ün temel URL'sine yönlendirip model alanını değiştirebilirsiniz, bu da entegrasyon işini küçük tutar. Model desteklenen parametre listelemez, bu nedenle temperature veya top_p gibi ayarlama seçeneklerinin kabul edileceğine güvenmemelisiniz; sorgunuzu ve aday öğelerinizi istekte gönderin ve rerank çıktısını okuyun. Sıralama davranışını kontrol etmeniz gerekiyorsa bunu adayları nasıl oluşturduğunuza ve toplu işlediğinize bağlı olarak kendi tarafınızda yapın.

Boş desteklenen parametre listesi göz önüne alındığında, bu model örnekleme ayarlarıyla yönlendirebileceğiniz bir şeyden ziyade sabit bir fonksiyon olarak ele alınmalıdır. Göreviniz metin üretimi, özetleme veya sohbet ise üretici bir model daha uygun olacaktır, çünkü bu model yalnızca rerank çıktısı döndürür. 32768 token bağlam ve 29491 maksimum çıktı, tek bir istekte ne kadar aday materyal gönderebileceğinizi sınırlar, bu nedenle çok büyük aday havuzları için toplu işleme yapmanız gerekir. Ücretsiz, görüntü farkındalığı olan bir yeniden sıralayıcı istediğinizde ve bu kısıtlar dahilinde çalışabildiğinizde mantıklı bir seçimdir.