VoyageAI by MongoDB: rerank-3

MongoDBによるVoyageAI: rerank-3は、現在MongoDBの一部となっているプロバイダー、Voyage AIのリランキングモデルです。これはrerankカテゴリに属し、Voyage AIはこれを最適化されたリランカーであり、rerank-2.5へのドロップインアップグレードであると位置づけています。これはチャットモデルでもテキスト生成モデルでもありません。候補ドキュメントのセットを受け取り、クエリとの関連性に基づいて並べ替えるために存在します。

このモデルはテキスト入力で動作し、リランキング出力を生成します。コンテキスト長は32,000トークンで、1回の呼び出しでクエリと相当な数の候補パッセージを同時に収めるのに十分な大きさです。最大出力は28,800です。リランカーであるため、レスポンスの形は、自由形式の文章ではなく、指定したドキュメントのランク付けされた順序です。このモデルにはサポートされているパラメータが記載されていないため、呼び出し側は生成モデルに適用されるサンプリング制御(temperature、top_pなど)を期待すべきではありません。

実用的なユースケースは、この設計から直接導かれます。一般的なパターンは2段階の検索パイプラインです。高速なベクトル検索またはキーワード検索が広範な候補セットを返し、次にrerank-3がそれらを並べ替えて、最も関連性の高い結果が上位に表示されるようにします。これにより、検索結果の品質、検索拡張生成のコンテキスト、ドキュメントコレクションに対する質問応答、および関連性ランキングが重要となるレコメンデーションやマッチング機能が改善されます。プロバイダーが長文ドキュメントの評価での向上を説明しているため、ランク付けされるパッセージが短いスニペットではなく長文である場合にも合理的に適しています。

api14を通じて呼び出すには、OpenAI互換エンドポイントに対してモデルID「voyageai/rerank-3」を使用します。api14はOpenAI互換APIを公開しているため、既存のクライアントをゲートウェイに向け、そのIDをモデルとして渡します。このモデルはサポートされているパラメータを記載していないため、クエリとランク付けするドキュメントを含むシンプルなリクエストを送信し、デコーディング設定を調整するのではなく、モデル自身のランキング動作に依存するべきです。

注目すべき1つの制限は範囲です。rerank-3はテキストをリランクするだけで、回答や要約を生成しないため、テキストを生成するモデルが必要な場合は生成モデルと組み合わせることになります。また、パイプラインに別個の検索ステップがなく、初回パスの埋め込み検索のみが必要な場合は、専用の埋め込みモデルの方がよりシンプルな出発点となり、後で順序を洗練するためにrerank-3を追加することができます。