BAAI: bge-m3

BAAI: bge-m3 は、北京人工知能アカデミー (Beijing Academy of Artificial Intelligence) である BAAI の埋め込みモデルです。これは埋め込みカテゴリに属しており、チャット応答を生成するのではなく、テキストをベクトルに変換するために構築されていることを意味します。アプリケーションが質問に答えたりテキストを書いたりするモデルを必要としているなら、これはその種のモデルではありません。これは、他のシステムがテキストを比較、検索、取得できるように、テキストを数値的に表現するために存在します。

このモデルはテキストのみを入力として受け取り、埋め込みのみを出力として生成します。プロバイダーによると、文、段落、長い文書を 1024 次元の密ベクトル空間にエンコードし、高品質な意味的埋め込みを提供することを目的としています。多言語検索、セマンティック検索、大規模コンテキストのアプリケーションに最適化されています。コンテキストウィンドウは 8194 トークンで、最大出力は 7374 であるため、かなり長いテキストの一節を、多くの小さな断片に分割するのではなく、単一のリクエストでエンコードできます。

これらの機能は、明確な実用的用途のセットを示しています。セマンティック検索が最も直接的です。文書を一度エンコードし、リクエスト時にユーザークエリをエンコードし、キーワードの重複ではなくベクトルの類似度で文書をランク付けします。検索拡張生成ももう一つで、bge-m3 が質問に意味的に近い一節を見つけることで検索の半分を担い、それらが別の生成モデルに渡されます。このモデルは多言語であるため、同じインデックスが異なる言語のクエリと文書にサービス提供でき、クロスリンガル検索、重複排除、テキストコレクションのクラスタリングに適しています。長いコンテキストウィンドウは、単一の文書チャンクが大きい場合にも役立ちます。チャンクが少なければ、ベクトル間での意味の断片化が少なくなるからです。

このモデルは、モデル ID「baai/bge-m3」を使用して、api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI 形式に従っているため、既存の OpenAI クライアントを api14 のベース URL に向け、その ID を指定してテキストを埋め込みエンドポイントに送信できます。統合を書き直す必要はありません。このモデルは、エンドポイントが必要とするもの以外にサポートされるパラメータを列挙していないため、リクエストはシンプルに保ってください。入力テキストとモデル ID を指定し、返されたベクトルを読み取ります。出力は生成されたトークンではなく決定論的な埋め込みデータであるため、ここで調整すべき temperature などのサンプリング制御はありません。

留意すべき点の一つは範囲です。bge-m3 はテキストのみを受け取り、埋め込みのみを返すため、要約、生成による分類、会話的な返答などのタスクには、別のモデルを併用する必要があります。8194 トークンのコンテキストは検索作業には十分ですが、それでも有限であるため、非常に大きな文書はエンコード前にチャンク化する必要があります。これらの範囲内で、あなたの問題が根本的にテキストの表現と比較に関するものである場合、これは妥当な選択です。