Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
cohere/rerank-5-fast上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
Cohere: Rerank 5 Fast は Cohere のリランキングモデルであり、同社の Rerank 5 ファミリーにおける低レイテンシ層として位置づけられています。テキストを生成するのではなく、クエリに対して候補ドキュメントをスコアリングして並べ替えるため、生成段階ではなく検索や RAG パイプラインの検索段階に属します。
このモデルはテキスト入力で動作し、rerank 出力を生成します。つまり、その応答は新しい文章ではなく、指定したドキュメントの順序付けです。コンテキスト長は 32768 トークンをサポートし、最大出力は 29491 です。スコアリングと並べ替えのために作られているため、チャットモデルで期待されるようなサンプリングや生成のパラメータは取りません。
実用的なユースケースは、その動作から直接導かれます。ベクトル検索やキーワード検索などの第一段階の検索器を実行する場合、Rerank 5 Fast は返された上位候補を受け取り、最も関連性の高いドキュメントが先頭に来るように並べ替えることができます。これにより、下流の回答生成器に渡す内容の品質が向上し、検索結果をユーザーに直接提示する場合にも役立ちます。低レイテンシ層は高スループットの検索を対象としているため、多数のクエリを発行し、それぞれに遅いリランキング段階を許容できないパイプラインに適しています。
モデル id "cohere/rerank-5-fast" を使用して、api14 の OpenAI 互換 API を通じて呼び出します。エンドポイントが OpenAI 形式に従っているため、既存の OpenAI クライアントライブラリを api14 に向け、その id をモデルとして渡すことができます。このモデルにはサポートされるパラメータが記載されていないため、リクエストはチューニングオプションではなく、モデル id とクエリおよび候補ドキュメントに依存します。
Rerank 5 Fast は指定したドキュメントを並べ替えるだけなので、テキスト生成、要約、またはプロンプトに対する推論が必要な場合には適していません。そのようなタスクには生成モデルが必要であり、検索品質が重要であれば事前にリランキングを適用します。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "cohere/rerank-5-fast",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
このコミュニティにはまだトピックがありません。Cohere: Rerank 5 Fastについて最初のトピックを立てましょう。