VoyageAI by MongoDB: rerank-3

VoyageAI by MongoDB: rerank-3, Voyage AI tarafından geliştirilen bir yeniden sıralama modelidir ve bu sağlayıcı artık MongoDB'nin bir parçasıdır. Rerank kategorisinde yer alır ve Voyage AI bunu optimize edilmiş bir yeniden sıralayıcı ve rerank-2.5 için doğrudan yükseltme olarak konumlandırır. Bu bir sohbet veya metin üretme modeli değildir: bir dizi aday belgeyi alıp bunları bir sorguyla ilgililiklerine göre yeniden sıralamak için vardır.

Model metin girdisiyle çalışır ve yeniden sıralama çıktısı üretir. 32.000 token bağlam uzunluğuna sahiptir, bu da tek bir çağrıda bir sorguyu önemli sayıda aday pasajla birlikte barındırmaya yetecek kadar büyüktür. Maksimum çıktı 28.800'dür. Bir yeniden sıralayıcı olduğu için yanıtın biçimi serbest metin değil, sağladığınız belgelerin sıralanmış bir düzenidir. Bu model için listelenmiş desteklenen parametre yoktur, dolayısıyla çağıranlar üretken modeller için geçerli olan örnekleme kontrollerini (temperature, top_p ve benzerleri) beklememelidir.

Pratik kullanım senaryoları doğrudan bu tasarımdan kaynaklanır. Yaygın bir desen iki aşamalı bir erişim hattıdır: hızlı bir vektör veya anahtar sözcük araması geniş bir aday kümesi döndürür, ardından rerank-3 bunları en ilgili sonuçlar en üstte görünecek şekilde yeniden sıralar. Bu, arama sonuçlarının kalitesini, retrieval-augmented generation bağlamını, bir belge koleksiyonu üzerinde soru yanıtlamayı ve ilgililik sıralamasının önemli olduğu öneri veya eşleştirme özelliklerini iyileştirir. Sağlayıcı uzun belge değerlendirmelerinde kazanımlar tanımladığı için, sıralanan pasajlar kısa kesitler yerine uzun olduğunda da makul bir tercihtir.

api14 üzerinden çağırmak için OpenAI uyumlu uç noktaya karşı "voyageai/rerank-3" model kimliğini kullanın. api14, OpenAI uyumlu bir API sunduğu için mevcut istemcinizi ağ geçidine yönlendirir ve bu kimliği model olarak iletirsiniz. Model desteklenen parametre listelemediğinden, sorgunuzu ve sıralanacak belgeleri içeren düz bir istek göndermeli ve kod çözme ayarlarını uyarlamak yerine modelin kendi sıralama davranışına güvenmelisiniz.

Dikkate değer bir sınır kapsamdır. rerank-3 yalnızca metni yeniden sıralar; yanıt veya özet üretmez, dolayısıyla metin üreten bir modele ihtiyacınız varsa bunu bir üretken modelle eşleştirirsiniz. Ayrıca, hattınızda ayrı bir erişim adımı yoksa ve yalnızca ilk geçiş bir embedding aramasına ihtiyacınız varsa, özel bir embedding modeli daha basit bir başlangıç noktası olabilir ve sıralamayı iyileştirmek için rerank-3 daha sonra eklenebilir.