VoyageAI by MongoDB: voyage-4-large

MongoDBによるVoyageAI: voyage-4-largeは、Voyage AIの埋め込みモデルです。Voyage AIは、そのモデルがVoyageAI by MongoDBという名前で配布されているプロバイダーです。これは埋め込みカテゴリに属しており、チャット応答を生成するのではなく、テキストをベクトルに変換するために構築されていることを意味します。検索や類似度のパイプライン向けにモデルを選ぶのであれば、これは会話能力ではなく埋め込み品質で評価する種類のモデルです。

このモデルは、唯一の入力モダリティとしてテキストを受け取り、唯一の出力として埋め込みを返します。コンテキスト長は32,000トークンなので、1回のリクエストでかなり長い文書や、より短い複数のパッセージのバッチをカバーできます。プロバイダーはこれを、検索品質に最適化された最先端の汎用かつ多言語の埋め込みと説明しています。Matryoshka学習と量子化対応トレーニングを使用しており、2048、1024、512、256次元の埋め込みをサポートします。最大出力は28,800と記載されており、これはリクエストの埋め込み出力側の上限です。

これらの機能は、特定のユースケース群を示しています。文書コレクションに対するセマンティック検索と検索は最も直接的な適合です。モデルは検索品質に調整されており、32,000トークンのコンテキスト内で長いパッセージを埋め込めるからです。多言語コーパスも、多言語トレーニングを考慮すると妥当な対象です。埋め込みは2048、1024、512、256次元に切り詰められるため、インデックスが必要とする精度に応じて、ベクトルサイズとストレージおよび検索速度をトレードオフできます。テキストに対するクラスタリング、重複排除、類似度スコアリングも自然な用途であり、別の生成モデルに供給するベクトルインデックスの構築も同様です。

このモデルは、モデルID「voyageai/voyage-4-large」を使用して、api14のOpenAI互換APIを通じて呼び出します。エンドポイントはOpenAI形式に従っているため、既存のOpenAIクライアントをapi14に向け、統合を書き直すことなく埋め込みリクエストを送信できます。このモデルのサポート対象パラメータ一覧は空なので、標準の埋め込み呼び出しに必要なもの以外に設定すべき追加のリクエストパラメータはありません。モデルIDを、設定する必要がある唯一のモデル固有の値として扱ってください。

留意すべき実用的な制約の1つは、このモデルがテキスト入力のみを処理し、埋め込みのみを生成することです。テキスト生成、質問への回答、指示への追従はできないため、書かれた応答を必要とするアプリケーションでは、別途生成モデルを併用する必要があります。32,000トークンのコンテキストは埋め込み作業には十分余裕がありますが、それでも有限であるため、非常に大きな文書は埋め込む前にチャンク分割する必要があります。タスクが検索ではなく生成であれば、チャットモデルまたは補完モデルの方が適しています。