チャットのウィジェットコードとコスト管理: モデル、応答長の上限、1日の上限

チャットウィジェットはもともと公開されるものです。ページを開いた人なら誰でも入力できます。それこそが目的ですが、だからこそコストは自分だけが管理できる上限で抑えておく必要があります。api14にはいくつもの上限があり、互いに組み合わせて機能します。

1. 価格を見ながらモデルを選ぶ

ウィジェットエディターのモデル選択欄には、各モデルの価格が表示されます。サポートアシスタントなら小型で高速なモデルで十分なことが多く、コストは最上位モデルのごく一部です。モデルはウィジェットと一緒に保存されるため、後からサイトのコードを変えずに、より高性能なモデルへ切り替えられます。

<script src="https://api14.com/widget.js" data-widget="YOUR_WIDGET_ID" async></script>

2. すべての回答に上限をかける

チャットウィジェットには、1回の回答の長さを制限する 最大応答長 (トークン) の設定があります。数百トークン程度に抑えれば回答は短くなり、メッセージ1件あたりのコストにも上限ができます。長い会話履歴はサーバー側で切り詰められるため、終わりのないチャットでもリクエストが際限なく大きくなることはありません。

3. 独自の上限を持つAPIキーにウィジェットを結びつける

すべてのウィジェットは、エディターで選んだあなたのAPIキーのいずれかで動作します。リストの最後には 新しいAPIキーを作成 があり、1つのウィジェット専用のキーを数秒で作れます。そのキーの設定が、訪問者からのすべてのリクエストに適用されます。

• 1日の利用上限: この金額に達すると、キーはその日のうちは停止します。
• 1分あたりのリクエスト数: ウィジェットを使える速さの上限です。
• 許可するモデル: 1つのモデルに限定したキーは、ほかの用途には使えません。

ウィジェットの利用はそのキーの下に記録されるため、利用状況 でウィジェットのコストを正確に確認できます。ウィジェットをすぐに止めたいときは、キーを削除するか差し替えてください。

4. ウィジェットとアカウントの上限

キーとは別に、ウィジェットエディターにはウィジェット自体の1日の利用上限があり、設定、ウィジェットの管理 ではアカウント内の全ウィジェットにまたがる上限も設定できます。訪問者ごとにも1分あたり、1日あたりの制限があるため、1人が予算を使い切ることはできません。

5. 残高が最後の上限

訪問者のリクエストは、モデルの通常価格でUSD残高から差し引かれます。残高がゼロになると、チャージするまでウィジェットは応答しなくなります。ウィジェットに問題が起きたらメールで知らせる をオンにしておけば、その日のうちに気づけます。

これらのうち2つか3つを組み合わせれば、最悪の場合でも金額は常に自分で決めた数字に収まります。ウィジェットページ でウィジェットを作り、現在の価格は 料金 でご確認ください。