VoyageAI by MongoDB: rerank-3-lite

VoyageAI by MongoDB: rerank-3-lite to model rerankingu od Voyage AI, dostawcy, którego modele są obecnie powiązane z MongoDB. Należy do kategorii rerank, co oznacza, że jego zadaniem nie jest generowanie tekstu, lecz przyjęcie zestawu dokumentów kandydujących i uporządkowanie ich według trafności względem zapytania. Jest pozycjonowany jako bezpośredni zamiennik dla rerank-2.5-lite, więc zespoły już korzystające z tego modelu mogą przejść na ten bez konieczności przebudowy swojego potoku. Według dostawcy jest zoptymalizowany zarówno pod kątem opóźnienia, jak i jakości, poprawiając rerank-2.5-lite średnio o 0,94% NDCG@10 w ocenach domenowych oraz o 1,86% w kolejnym pomiarze.

Model przyjmuje tekst jako dane wejściowe i zwraca wynik rerankingu jako dane wyjściowe. Jego długość kontekstu wynosi 32 000 tokenów, co obejmuje zapytanie i fragmenty kandydujące przesłane razem w jednym żądaniu. Maksymalna długość danych wyjściowych jest podana jako 28 800. Ponieważ jest to reranker, a nie model czatu ani uzupełniania, nie pisze prozy ani nie odpowiada bezpośrednio na pytania; zwraca uporządkowanie odzwierciedlające, jak dobrze każdy kandydat pasuje do zapytania.

Taki kształt danych wyjściowych czyni go użytecznym w potokach wyszukiwania. Typowy wzorzec polega na uruchomieniu szybkiego wyszukiwania pierwszego etapu, takiego jak wyszukiwanie wektorowe lub słów kluczowych, aby pobrać szeroki zestaw kandydatów, a następnie przekazaniu tych kandydatów do rerank-3-lite w celu posortowania ich, zanim trafią do użytkownika lub do następnego etapu aplikacji. Dotyczy to wyszukiwania w dokumentacji, artykułach pomocy, katalogach produktów lub wewnętrznych bazach wiedzy oraz generowania wspomaganego wyszukiwaniem, gdzie jakość kilku najlepszych fragmentów silnie wpływa na ostateczną odpowiedź. Nacisk na opóźnienie czyni go rozsądnym wyborem dla wyszukiwania interaktywnego, gdzie etap rerankingu musi zakończyć się szybko.

Możesz go wywołać przez API zgodne z OpenAI w api14, używając identyfikatora modelu "voyageai/rerank-3-lite". Ponieważ endpoint jest zgodny z formatem OpenAI, możesz użyć istniejących bibliotek klienckich OpenAI i wskazać je na api14, co ogranicza pracę integracyjną, jeśli masz już takiego klienta. Model nie wymienia żadnych obsługiwanych parametrów, więc nie ma dodatkowych opcji dostrajania do ustawienia poza identyfikatorem modelu i treścią żądania. Należy zauważyć, że data wydania przez dostawcę to 2026-09-30.

Jeśli Twoim zadaniem jest generowanie tekstu, streszczanie lub konwersacja, a nie ranking zestawu kandydatów, lepiej sprawdzi się model czatu lub uzupełniania, ponieważ rerank-3-lite zwraca wyłącznie uporządkowanie. Warto również sprawdzić, czy Twój zestaw kandydatów i zapytanie mieszczą się w kontekście 32 000 tokenów, i podzielić lub przyciąć je, jeśli nie.