VoyageAI by MongoDB: rerank-2.5

VoyageAI by MongoDB: rerank-2.5, reranker'ları VoyageAI by MongoDB adı altında dağıtılan bir sağlayıcı olan Voyage AI tarafından geliştirilen bir yeniden sıralama modelidir. Rerank kategorisinde yer alır, yani görevi metin üretmek değil, bir dizi aday belgeyi alıp bunları bir sorguyla ilgililiklerine göre yeniden sıralamaktır. Uygulamanız zaten pasajlar, parçalar veya arama sonuçları getiriyorsa ve en iyi eşleşmelerin en üstte olmasını istiyorsanız, başvuracağınız model tam olarak bu türdendir.

Model girdi olarak metin kabul eder ve çıktı olarak bir yeniden sıralama üretir. 32.000 token bağlam uzunluğuna sahiptir; bu, tek bir istekte gönderdiğiniz sorgu ve belgeler arasında paylaşılan bütçedir ve maksimum çıktı 28.800'dür. Çıktı, üretilmiş düzyazı değil bir sıralama olduğundan, soruları yanıtlamasını, içeriği özetlemesini veya kod yazmasını beklememelisiniz. Tüm katkısı, sağladığınız adaylar üzerinde bir ilgililik sıralamasıdır.

Pratik kullanım senaryoları doğrudan bundan kaynaklanır. Bir retrieval augmented generation hattı, hızlı bir vektör veya anahtar sözcük aramasından sonra ikinci aşama olarak rerank-2.5'i kullanabilir; en iyi adayları alıp yeniden sıralayarak en ilgili parçaların bir üretim modeline aktarılmasını sağlar. Aynı desen, ilk aşamanın recall'u önceliklendirdiği ve reranker'ın precision'ı geri kazandırdığı kurumsal arama, dokümantasyon araması ve destek bilgi tabanları için de geçerlidir. Ayrıca, bir kullanıcıya gösterebileceğinizden veya bir alt akış prompt'una besleyebileceğinizden daha fazla aday pasajınızın olduğu tekilleştirme ve önceliklendirme görevleri için de kullanışlıdır.

Modele api14'ün OpenAI uyumlu API'si üzerinden "voyageai/rerank-2.5" model id'sini kullanarak erişirsiniz. Uç nokta OpenAI şemasını izlediği için, mevcut bir OpenAI istemcisini api14'ün temel URL'sine yönlendirip bu id'yi model alanında iletebilirsiniz. Modelin desteklenen parametreler listesi boştur, dolayısıyla rerank isteğinin kendisinin gerektirdiklerinin (sorgu ve puanlanacak belgeler gibi) ötesinde ayarlanacak ek bir ince ayar seçeneği yoktur. İstekleri 32.000 token bağlamı içinde tutun; sorgunun ve her aday belgenin bu toplama dahil olduğunu unutmayın.

Başka bir yere ne zaman bakmalı sorusuna gelince: rerank-2.5 yalnızca metinle ilgilenir ve yalnızca bir sıralama döndürür; dolayısıyla görsel girdi, ses veya üretilmiş çıktı gerektiren görevler kapsamı dışındadır ve farklı bir modele aittir. Hem getirme hem yanıtlama işini tek bir modelin yapmasını istiyorsanız, bir üretim modeli daha uygun olur ve rerank-2.5 isteğe bağlı olarak onun önüne bir precision aşaması olarak yerleştirilebilir.