Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
mongodb/rerank-3上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
MongoDB による VoyageAI: rerank-3 は、MongoDB による VoyageAI のリランキングモデルです。これは rerank カテゴリに属し、rerank-2.5 へのドロップインアップグレードとして位置付けられています。つまり、以前のモデルをすでに使用しているチームは、統合を作り直すことなく rerank-3 に移行できます。このモデルは生成ではなく検索品質のために作られているため、検索結果や候補パッセージがユーザーや下流のモデルに到達する前に、それらをどのように並べるかを決定するパイプラインの部分に属します。
このモデルはテキストを入力として受け取り、リランキング出力を生成します。コンテキスト長は 32,000 トークンに対応し、最大出力は 28,800 です。これは、短いスニペットだけでなく、クエリとともに長い候補パッセージをスコアリングするのに十分な余裕です。入力モダリティがテキストで、出力モダリティが rerank であるため、このモデルは文章やチャットの返信を生成しません。与えられたパッセージの順序を返します。そのため、これは会話型というよりも、スコアリングと並べ替えのコンポーネントです。
実用的なユースケースは、その形状から直接導かれます。検索パイプラインは、高速な第一段階の検索で広範な候補を取得し、その後、クエリとそれらの候補を rerank-3 に渡して、より良い最終的な順序を生成できます。これは、ドキュメント、社内ナレッジベース、サポートコンテンツ、または生の再現率よりも上位の結果が重要なあらゆるコーパスに対する検索で役立ちます。また、プロンプトに入れられるパッセージの品質が後続の回答に影響する検索拡張生成の構成にも適しています。長いコンテキストと長い出力の許容量により、長文ドキュメントを含むコレクションに適しています。モデルは位置を割り当てるときに各候補のより多くを考慮できるからです。
このモデルは、モデル id "mongodb/rerank-3" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI 形式に従っているため、既存の OpenAI クライアントを api14 に向け、リクエストでこのモデル id を選択できます。このモデルは、モデル id 自体以外にサポートされるパラメータを記載していないため、temperature や top_p などのサンプリングや生成の設定を調整することは期待しないでください。それらはリランカーではなく生成モデルに属します。クエリと候補テキストを送信し、リランキング出力を読み取ってください。
rerank-3 はリランカーであるため、テキスト生成、チャット、要約、または埋め込みが必要な場合には適切な選択ではないことに注意する価値があります。タスクが候補を並べることではなく回答を生成することである場合、生成モデルの方が適しています。タスクが、リランカーがその後で並べ替える初期のベクトル表現を作成することである場合、埋め込みモデルが適切なコンポーネントです。リランキング作業において、rerank-3 は rerank-2.5 のドロップイン後継であり、プロバイダーは、ドメイン評価全体で平均 0.80% NDCG@10、長文ドキュメント評価で 3.35% の、そのモデルに対する改善を報告しています。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
このコミュニティにはまだトピックがありません。VoyageAI by MongoDB: rerank-3について最初のトピックを立てましょう。