Sentence Transformers: all-MiniLM-L12-v2

Sentence Transformers: all-MiniLM-L12-v2 は Sentence Transformers の埋め込みモデルで、api14 を通じてモデル id sentence-transformers/all-minilm-l12-v2 で配布されています。これは embeddings カテゴリに属するため、その役割はチャットの返信を生成することではなく、テキストを保存、比較、検索できるベクトルに変換することです。提供元のリリース日は 2025-11-18 と記載されています。

このモデルはテキストを唯一の入力として受け取り、埋め込みを唯一の出力として返します。文や短い段落を 384 次元の密ベクトル空間にマッピングするため、ベクトルは大量に保存できるほどコンパクトでありながら、意味的な情報も保持します。コンテキストウィンドウは 512 トークンで、最大出力は 460 です。入力がテキストで出力がベクトルであるため、解析すべき自然言語の応答はありません。独自のパイプラインで直接使用できる数値表現が得られます。

これらの特性は、かなり特定のユースケース群を示しています。セマンティック検索は明らかな例です。ドキュメントを一度埋め込み、リクエスト時にクエリを埋め込み、ベクトルの類似度でランク付けします。同じアプローチはクラスタリングにも有効で、手書きのルールなしに類似した文や短い段落をグループ化できます。検索拡張生成パイプラインも、生成モデルに渡す前に関連するパッセージを取得するためにこの種のモデルを使用します。重複排除、トピックのグループ化、短いテキスト間の類似性チェックも、384 次元の文埋め込みから導かれる他のタスクです。

api14 を通じた呼び出しは、他の OpenAI 互換エンドポイントと同じように機能します。model フィールドを sentence-transformers/all-minilm-l12-v2 に設定し、input フィールドにテキストを入れて embeddings ルートにリクエストを送信します。ゲートウェイ上の他のモデルですでに使用しているのと同じクライアントライブラリと認証を使用します。このモデルは追加のリクエストパラメータをサポートしていないため、モデル id と入力自体以外に調整するものはありません。長いテキストは収まらないため、入力は 512 トークンのコンテキストウィンドウ内に収めてください。

留意すべき主な制約は、これがテキスト生成モデルではなく埋め込みモデルであることです。要約、回答、その他あらゆる種類の文章出力が必要な場合は、代わりにチャットモデルまたは補完モデルが適切な選択です。また、テキスト入力と短いパッセージに限定されるため、非常に長いドキュメントは埋め込む前にチャンクに分割する必要があります。これらの範囲内では、小さなベクトルと高速な比較が重要となる検索、クラスタリング、検索作業において実用的な選択肢です。