Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
mongodb/rerank-3Korzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
VoyageAI by MongoDB: rerank-3 to model rerankingowy od VoyageAI by MongoDB. Należy do kategorii rerank i jest pozycjonowany jako bezpośredni następca rerank-2.5, co oznacza, że zespoły korzystające już z wcześniejszego modelu mogą przejść na rerank-3 bez przebudowywania integracji. Model został stworzony z myślą o jakości wyszukiwania, a nie generowania, więc należy do tej części potoku, która decyduje o kolejności wyników wyszukiwania lub fragmentów kandydatów, zanim trafią one do użytkownika lub modelu niższego rzędu.
Model przyjmuje tekst jako dane wejściowe i zwraca wynik rerankingu. Obsługuje długość kontekstu 32 000 tokenów, z maksymalnym wyjściem 28 800, co daje wystarczająco dużo miejsca na ocenę długich fragmentów kandydatów razem z zapytaniem, a nie tylko krótkich urywków. Ponieważ modalnością wejściową jest tekst, a modalnością wyjściową rerank, model nie generuje prozy ani odpowiedzi czatowych; zwraca uporządkowanie przekazanych mu fragmentów. Czyni go to komponentem oceniającym i sortującym, a nie konwersacyjnym.
Praktyczne przypadki użycia wynikają bezpośrednio z tego kształtu. Potok wyszukiwania może pobrać szeroki zestaw kandydatów za pomocą szybkiego wyszukiwania pierwszego etapu, a następnie przekazać zapytanie i tych kandydatów do rerank-3, aby uzyskać lepszą kolejność końcową. Jest to przydatne w wyszukiwaniu w dokumentacji, wewnętrznych bazach wiedzy, treściach pomocniczych lub dowolnym korpusie, w którym najważniejsze wyniki mają większe znaczenie niż surowe pokrycie. Pasuje również do konfiguracji generowania wspomaganego wyszukiwaniem, gdzie jakość fragmentów umieszczanych w podpowiedzi wpływa na późniejszą odpowiedź. Długi kontekst i duży limit wyjścia czynią go odpowiednim dla kolekcji zawierających obszerne dokumenty, ponieważ model może uwzględnić więcej treści każdego kandydata przy przypisywaniu mu pozycji.
Model wywołujesz przez API zgodne z OpenAI w api14, używając identyfikatora modelu "mongodb/rerank-3". Ponieważ interfejs jest zgodny z formatem OpenAI, możesz skierować istniejącego klienta OpenAI na api14 i wybrać ten identyfikator modelu w swoim żądaniu. Model nie wymienia żadnych obsługiwanych parametrów poza samym identyfikatorem modelu, więc nie należy oczekiwać możliwości dostrajania ustawień próbkowania lub generowania, takich jak temperature czy top_p; należą one do modeli generatywnych, a nie do rerankera. Wyślij zapytanie i teksty kandydatów, a następnie odczytaj wynik rerankingu.
Warto zauważyć, że rerank-3 jest rerankerem, więc nie jest właściwym wyborem, gdy potrzebujesz generowania tekstu, czatu, streszczania lub osadzeń. Jeśli Twoim zadaniem jest wygenerowanie odpowiedzi, a nie uporządkowanie kandydatów, lepiej pasuje model generatywny. Jeśli Twoim zadaniem jest utworzenie początkowych reprezentacji wektorowych, które reranker następnie porządkuje, odpowiednim komponentem jest model osadzeń. W ramach pracy nad rerankingiem rerank-3 jest bezpośrednim następcą rerank-2.5, a dostawca podaje ulepszenia względem tego modelu wynoszące średnio 0,80% NDCG@10 w ocenach domenowych oraz 3,35% w ocenach długich dokumentów.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o VoyageAI by MongoDB: rerank-3.