VoyageAI by MongoDB: rerank-2.5

MongoDBによるVoyageAI: rerank-2.5は、Voyage AIのリランキングモデルです。Voyage AIは、そのリランカーがVoyageAI by MongoDBという名前で配布されているプロバイダーです。これはrerankカテゴリに属しており、つまりその役割はテキストを生成することではなく、候補ドキュメントの集合を受け取り、クエリとの関連性に基づいて並べ替えることです。アプリケーションがすでにパッセージ、チャンク、検索結果を取得しており、最良の一致を上位に配置したい場合、これが手に取るようなモデルの種類です。

このモデルはテキストを入力として受け取り、出力としてリランキングを生成します。コンテキスト長は32,000トークンで、これは単一のリクエストで送信するクエリとドキュメント間で共有される予算であり、最大出力は28,800です。出力は生成された散文ではなくランキングであるため、質問に答えたり、コンテンツを要約したり、コードを書いたりすることは期待すべきではありません。その貢献のすべては、提供する候補に対する関連性の順序付けです。

実用的なユースケースはそこから直接導かれます。Retrieval augmented generationパイプラインは、高速なベクトル検索またはキーワード検索の後の第2段階としてrerank-2.5を使用し、上位の候補を取得して並べ替えることで、最も関連性の高いチャンクが生成モデルに渡されるものになるようにできます。同じパターンは、エンタープライズ検索、ドキュメント検索、サポートナレッジベースにも当てはまり、そこでは第1段階が再現率を優先し、リランカーが精度を回復します。また、ユーザーに表示したり下流のプロンプトに投入したりする余裕がある以上の候補パッセージがある重複排除や優先順位付けのタスクにも役立ちます。

これは、モデルID「voyageai/rerank-2.5」を使用して、api14のOpenAI互換APIを通じて呼び出します。エンドポイントはOpenAIスキーマに従っているため、既存のOpenAIクライアントをapi14のベースURLに向け、このIDをmodelフィールドに渡すことができます。このモデルのサポートされているパラメータリストは空であるため、リランクリクエスト自体が必要とするもの（クエリやスコアリング対象のドキュメントなど）以外に設定する追加のチューニングオプションはありません。クエリとすべての候補ドキュメントがその合計にカウントされることを覚えておき、リクエストを32,000トークンのコンテキスト内に収めてください。

いつ他のものを探すべきかという問いについては、rerank-2.5はテキストのみを扱い、ランキングのみを返すため、画像入力、音声、または生成出力を必要とするタスクはその範囲外であり、別のモデルに属します。検索と回答の両方を行う単一のモデルが必要な場合、生成モデルの方が適しており、rerank-2.5をオプションでその前段に精度ステージとして配置できます。