Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
mongodb/rerank-3-lite上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
MongoDBによるVoyageAI: rerank-3-liteは、MongoDBによるVoyageAIのリランキングモデルです。rerankカテゴリに属し、その役割は新しいテキストを生成することではなく、候補ドキュメントのセットを受け取り、クエリとの関連性に基づいて並べ替えることです。これはrerank-2.5-liteへのドロップインアップグレードとして位置付けられており、つまり既にそのモデルを使用しているチームは、統合方法を変更することなくこのモデルに移行できます。
このモデルは入力としてテキストを受け取り、出力としてリランキングを生成します。コンテキスト長は32,000トークンで、最大出力は28,800です。その目的は生成ではなくスコアリングと順序付けであるため、返される有用なものは、提供したパッセージに対する関連性の順序付けであり、レイテンシと品質のバランスを取るように作られています。ドメイン評価全体で、rerank-2.5-liteを平均0.94% NDCG@10で上回り、さらに1.86%の改善を示しています。この測定された向上により、以前のliteモデルが既に本番環境にある場合の低リスクな置き換えとなります。
実用的なユースケースは、これらの機能から直接導かれます。これは検索拡張生成パイプラインに適合し、そこでは第一段階の検索器が広範な候補セットを返し、リランカーがそれらを言語モデルに到達する前に絞り込んで順序付けます。また、検索およびサイト検索にも適しており、そこでは生の一致よりも結果の順序が重要になります。さらに、ドキュメントコレクション、社内ナレッジベース、サポートコンテンツに対する質問応答、および特定のクエリにどれだけうまく答えるかでパッセージを並べ替える必要があるあらゆるワークフローにも適合します。大きなコンテキスト予算により、長い候補パッセージを積極的に切り詰めることなく含めることができ、レイテンシへの重点により、オフラインバッチジョブだけでなくインタラクティブなアプリケーションにも合理的です。
これはapi14のOpenAI互換APIを通じて、モデルID「mongodb/rerank-3-lite」を使用して呼び出します。サポートされているパラメータリストは空であるため、モデルIDを入力とともに渡し、リクエストで調整オプションを期待するのではなくデフォルトに依存してください。エンドポイントはOpenAI互換の形状に従っているため、既存のクライアントライブラリとコードパスを最小限の変更でapi14とこのモデルIDに向けることができます。
これはジェネレーターではなくリランカーであることに注意する価値があります。タスクが回答を書くこと、要約すること、または会話を行うことである場合、テキスト生成モデルが適切な選択であり、このモデルはその前段のステージとして最もよく機能します。クエリに対してテキストをスコアリングまたは順序付けする必要がある場合、これが適切な選択です。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-3-lite",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
このコミュニティにはまだトピックがありません。VoyageAI by MongoDB: rerank-3-liteについて最初のトピックを立てましょう。