Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
mongodb/rerank-2.5Korzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
VoyageAI by MongoDB: rerank-2.5 to model rerankingu od VoyageAI by MongoDB. Należy do kategorii rerank, co oznacza, że jego zadaniem jest wzięcie istniejącego zestawu wyników kandydujących i ponowne uporządkowanie ich według trafności, a nie generowanie nowego tekstu od zera. To model tekstowy, a jego wynikiem jest wynik rerankingu.
Model przyjmuje tekst jako dane wejściowe i zwraca ponownie uporządkowany wynik. Ma długość kontekstu 32 000 tokenów i maksymalny wynik 28 800. Ponieważ jest rerankerem, nie pisze prozy, nie odpowiada na pytania ani nie prowadzi rozmowy. Zamiast tego ocenia i porządkuje fragmenty względem zapytania, co jest krokiem, który zazwyczaj znajduje się między wstępnym etapem wyszukiwania a końcowym zestawem dokumentów przekazywanych modelowi niższego szczebla lub pokazywanych użytkownikowi.
Taki kształt czyni go użytecznym wszędzie tam, gdzie liczy się jakość wyszukiwania. Typowy wzorzec to dwuetapowy potok wyszukiwania: szybkie wyszukiwanie wektorowe lub słowne zwraca szeroką listę kandydatów, a rerank-2.5 porządkuje tych kandydatów tak, aby najbardziej trafne elementy znalazły się na górze. Ma to zastosowanie w generowaniu wspomaganym wyszukiwaniem, gdzie lepsze uporządkowanie oznacza, że generator widzi najsilniejszy kontekst jako pierwszy, oraz w wyszukiwaniu w dokumentacji, zgłoszeniach pomocy technicznej, wewnętrznych bazach wiedzy lub katalogach produktów. Pasuje również do pracy nad ewaluacją i curatingiem danych, gdzie potrzebujesz spójnego uporządkowania według trafności w dużym zestawie par zapytań i dokumentów.
Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "mongodb/rerank-2.5". Ponieważ punkt końcowy jest zgodny z formatem OpenAI, możesz skierować istniejącego klienta OpenAI na api14, zmieniając bazowy adres URL i przekazując ten identyfikator modelu w żądaniu. Model nie wymienia żadnych obsługiwanych parametrów, więc nie ma opcji próbkowania ani generowania do dostrojenia; wysyłasz zapytanie i dokumenty, a otrzymujesz z powrotem ponownie uporządkowaną kolejność. Kontekst 32 000 tokenów to budżet, o którym należy pamiętać przy decydowaniu, ilu kandydatów przesłać w jednym wywołaniu.
Jeśli twoim zadaniem jest generowanie tekstu, streszczanie, czat lub używanie narzędzi, reranker jest niewłaściwym narzędziem i lepiej pasować będzie model generatywny. rerank-2.5 najlepiej traktować jako jeden etap w potoku, a nie samodzielnego asystenta, i jest najbardziej wartościowy, gdy masz już zestaw kandydatów wymagający dokładniejszego uporządkowania.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o VoyageAI by MongoDB: rerank-2.5.