Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
mongodb/rerank-2.5上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
MongoDBによるVoyageAI: rerank-2.5は、MongoDBによるVoyageAIのリランキングモデルです。これはrerankカテゴリに属し、つまり、ゼロから新しいテキストを生成するのではなく、既存の候補結果のセットを受け取り、関連性に基づいて並べ替えることを役割とします。これはテキストモデルであり、その出力はrerank結果です。
このモデルはテキストを入力として受け取り、リランキングされた出力を生成します。コンテキスト長は32,000トークンで、最大出力は28,800です。これはリランカーであるため、文章を書いたり、質問に答えたり、会話をしたりすることはありません。代わりに、クエリに対するパッセージのスコアリングと順序付けを行います。これは通常、最初の検索パスと、下流のモデルに渡されるかユーザーに表示される最終的なドキュメントのセットとの間に位置するステップです。
この形は、検索品質が重要となるあらゆる場面で役立ちます。一般的なパターンは2段階の検索パイプラインです。高速なベクトル検索またはキーワード検索が広範な候補リストを返し、rerank-2.5がそれらの候補を並べ替えて、最も関連性の高い項目が上位に来るようにします。これは、より良い順序付けによって生成器が最も強力なコンテキストを最初に見ることができる検索拡張生成や、ドキュメント、サポートチケット、社内ナレッジベース、製品カタログの検索に当てはまります。また、大規模なクエリとドキュメントのペアのセット全体で一貫した関連性の順序付けが必要となる、評価やデータキュレーションの作業にも適しています。
これは、モデルID「mongodb/rerank-2.5」を使用して、api14のOpenAI互換APIを通じて呼び出します。エンドポイントはOpenAI形式に従っているため、ベースURLを変更し、リクエストでそのモデルIDを渡すことで、既存のOpenAIクライアントをapi14に向けることができます。このモデルはサポートされているパラメータをリストしていないため、調整すべきサンプリングや生成のオプションはありません。クエリとドキュメントを送信すると、リランキングされた順序が返されます。32,000トークンのコンテキストは、1回の呼び出しで何件の候補を送信するかを決める際に念頭に置くべき予算です。
タスクがテキスト生成、要約、チャット、ツール使用である場合、リランカーは間違ったツールであり、生成モデルの方が適しています。rerank-2.5は、単独のアシスタントとしてではなく、パイプラインの1ステージとして扱うのが最適であり、より鋭い順序付けを必要とする候補セットがすでにある場合に最も価値を発揮します。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.post("/rerank", { body: {
"model": "mongodb/rerank-2.5",
"query": "What is the capital of France?",
"documents": [
"Paris is the capital of France.",
"Berlin is in Germany."
],
"top_n": 1
} });
console.log(result.results);
このコミュニティにはまだトピックがありません。VoyageAI by MongoDB: rerank-2.5について最初のトピックを立てましょう。