Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
初めてですか？使い方をご紹介します プレイグラウンド、モデル、APIキーを1分でご案内します。
Cookieを使用しています. Cookieとブラウザストレージは、ログイン状態の維持と設定の保存に使われます。許可いただいた場合は、サイトの利用状況も計測します。はいつでも変更できます。詳しくはCookieポリシーをご覧ください。
amazon/titan-embed-text-v2上記の料金で残高から差し引かれます。新規アカウントには無料利用分があります。
設定
Amazon Titan Text Embeddings V2 は Amazon のテキスト埋め込みモデルで、api14 にモデル ID amazon/titan-embed-text-v2 で掲載されています。これは embeddings カテゴリに属するため、その役割は文章や会話を生成することではなく、テキストをベクトルに変換することです。アプリケーションが意味的な内容を捉えたテキストの数値表現を必要とするなら、これがまさに使うべき種類のモデルです。
このモデルはテキストのみを入力として受け取り、出力として埋め込みを返します。入力あたり最大 8,192 トークンを受け付けるため、長い文書のセクション、記事全体、あるいはナレッジベース項目のかなりの部分を、事前に分割せずに扱えるだけの余裕があります。返されるベクトルは正規化されており、1,024 次元なので、追加の正規化手順なしでコサイン類似度や内積によって直接比較できます。最大出力は 7,372 です。
これらの特性は、いくつかの実用的な用途を示しています。Retrieval augmented generation は明らかな用途です。文書を一度埋め込み、リクエスト時にユーザークエリを埋め込み、最も近いチャンクを取得して生成モデルに渡します。製品カタログ、サポートチケット、社内ドキュメントに対するセマンティック検索も同じように機能し、キーワード検索では見逃す言い換えも処理できます。クラスタリングとトピック発見は、固定の 1,024 次元ベクトルの恩恵を受けます。これらに対して k-means や類似のアルゴリズムを直接実行できるからです。重複排除とほぼ重複の検出も自然に適合し、タグではなく意味によって項目を照合するレコメンデーション層の構築にも適しています。
これは api14 の OpenAI 互換 API を通じて、モデル ID amazon/titan-embed-text-v2 を使って呼び出します。そのため、すでに OpenAI embeddings 形式を扱えるクライアントなら、最小限の変更で動作します。base URL を api14 に向け、api14 キーを渡し、そのモデル ID を指定してテキストを embeddings エンドポイントに送信してください。このモデルはエンドポイントが必要とするもの以外の追加リクエストパラメータをサポートしていないため、リクエストはシンプルに保ち、尊重されないチューニングオプションを渡すのは避けてください。これは埋め込みモデルなので、チャット形式のメッセージを受け付けたり、生成テキストを返したりしません。
留意すべき点の 1 つは、このモデルがテキストのみを扱うことです。入力に画像、音声、その他のモダリティが含まれる場合は、別のモデルが必要になります。同様に、テキストを数値的に表現するのではなく回答を書くアシスタントが必要な場合、埋め込みモデルは間違ったツールであり、代わりにこれを生成モデルと組み合わせることになります。ただし、その範囲内では、ほとんどの文書チャンクに十分な大きさのコンテキストウィンドウを備え、検索、サーチ、クラスタリングのタスクをカバーします。
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api14.com/api/v1",
apiKey: process.env.API14_API_KEY,
});
const result = await client.embeddings.create({
"model": "amazon/titan-embed-text-v2",
"input": [
"The quick brown fox",
"Lorem ipsum"
]
});
console.log(result.data.map((d) => d.embedding.length));
このコミュニティにはまだトピックがありません。Amazon: Titan Text Embeddings V2について最初のトピックを立てましょう。