VoyageAI by MongoDB: voyage-4-lite

voyage-4-lite は、Voyage の検索モデルファミリーを手がけ、現在は MongoDB の一部となっている企業 Voyage AI による埋め込みモデルです。これはチャットカテゴリではなく埋め込みカテゴリに属しており、つまりテキストを生成しません。代わりに、テキストをベクトルに変換し、それを保存して比較します。これは軽量な汎用モデルとして位置づけられており、最も難しい検索問題における最大精度よりも、低レイテンシとコストを重視して作られています。

このモデルはテキストを入力として受け取り、埋め込みを出力として返します。コンテキスト長は 32,000 トークンで、最大出力は 28,800 であるため、長い文書を多数の小さなチャンクに分割せずに埋め込むことができます。Voyage AI は Matryoshka learning と quantization-aware training を用いてこれを訓練しており、これにより単一のモデルが 2048、1024、512、256 次元の埋め込みを生成できます。ストレージとレイテンシの予算に合う次元を選択でき、短いベクトルも崩壊せずに使用可能なままです。

これらの特性は、かなり特定の用途群を示しています。文書コレクションに対するセマンティック検索では、チャンクを一度埋め込み、埋め込まれた質問でそれらをクエリしますが、これが中核的なケースです。同じベクトルは、retrieval augmented generation、重複排除とほぼ重複の検出、クラスタリングとトピックのグループ化、および入力とラベル付き例を比較する際の分類やルーティングを支えます。このモデルは 32,000 トークンのコンテキストを扱えるため、ページ全体や長い文章を直接埋め込むことができ、コード検索、サポートチケットのトリアージ、社内ナレッジベースに適しています。より低い次元のオプションは、数百万のベクトルを保存し、インデックスを小さく保ちたい場合に重要になります。

これは、モデル id "voyageai/voyage-4-lite" を使用して、api14 の OpenAI 互換 API を通じて呼び出します。エンドポイントは OpenAI の埋め込み形式に従っているため、既存のクライアントとライブラリはベース URL とモデル id を変更するだけで動作します。このモデルは追加の対応パラメータを公開していないため、リクエストは埋め込みエンドポイントが受け入れる標準フィールド、たとえば入力テキストとモデル id に依存します。サンプリング、temperature、ツール設定は存在しません。これらはいずれも埋め込みモデルには適用されないためです。

タスクがテキスト生成、要約、または推論である場合、これは誤ったモデルであり、チャットモデルの方が適しています。voyage-4-lite は軽量で汎用であるとも説明されているため、専門的または高度に技術的なコーパスで最強の検索品質が必要な場合は、より大きな Voyage 埋め込みモデルの方がより適した選択肢となります。