Używamy plików cookie. Pliki cookie i pamięć przeglądarki pozwalają utrzymać logowanie i zapamiętać Twoje preferencje. Za Twoją zgodą mierzymy też, jak korzystasz ze strony. W każdej chwili możesz . Zobacz naszą politykę cookie.
cohere/rerank-5-fastKorzysta z Twojego salda według powyższych cen. Nowe konta zaczynają z darmowym użyciem.
Ustawienia
Cohere: Rerank 5 Fast to model rerankingowy od Cohere, pozycjonowany jako warstwa o niskich opóźnieniach w rodzinie Rerank 5 tej firmy. Zamiast generować tekst, ocenia i zmienia kolejność dokumentów kandydujących względem zapytania, co umieszcza go na etapie wyszukiwania w potoku wyszukiwania lub RAG, a nie na etapie generowania.
Model działa na wejściu tekstowym i zwraca wynik rerankingu, co oznacza, że jego odpowiedzią jest uporządkowanie dostarczonych dokumentów, a nie nowa treść. Obsługuje długość kontekstu 32768 tokenów, a jego maksymalne wyjście to 29491. Ponieważ został zbudowany do oceniania i zmiany kolejności, nie przyjmuje parametrów próbkowania ani generowania, których można by oczekiwać od modelu czatu.
Praktyczne przypadki użycia wynikają bezpośrednio z tego zachowania. Jeśli używasz wyszukiwarki pierwszego etapu, takiej jak wyszukiwanie wektorowe lub wyszukiwanie słów kluczowych, Rerank 5 Fast może pobrać najlepszych kandydatów, których zwraca, i zmienić ich kolejność tak, aby najbardziej istotne dokumenty znalazły się na górze. Poprawia to jakość danych przekazywanych do dalszego generatora odpowiedzi, a także pomaga, gdy prezentujesz wyniki wyszukiwania bezpośrednio użytkownikowi. Warstwa o niskich opóźnieniach jest przeznaczona do wyszukiwania o wysokiej przepustowości, więc pasuje do potoków, które wysyłają wiele zapytań i nie mogą sobie pozwolić na wolny etap rerankingu przy każdym z nich.
Wywołujesz go przez API zgodne z OpenAI w api14, używając identyfikatora modelu "cohere/rerank-5-fast". Ponieważ endpoint jest zgodny z formatem OpenAI, możesz skierować istniejące biblioteki klienckie OpenAI na api14 i przekazać ten identyfikator jako model. Model nie wymienia żadnych obsługiwanych parametrów, więc żądania opierają się na identyfikatorze modelu wraz z zapytaniem i dokumentami kandydującymi, a nie na opcjach dostrajania.
Ponieważ Rerank 5 Fast tylko zmienia kolejność dostarczonych dokumentów, nie nadaje się, gdy potrzebujesz generowania tekstu, streszczania lub rozumowania na podstawie promptu. Te zadania wymagają modelu generatywnego, z rerankingiem zastosowanym wcześniej, jeśli jakość wyszukiwania ma znaczenie.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
Ta społeczność nie ma jeszcze wątków. Załóż pierwszy wątek o Cohere: Rerank 5 Fast.