Together: Tev1 4B Experimental

Together: Tev1 4B Experimental は、Together AI による実験的な意思決定モデルです。これは Qwen3.5-4B の教師ありファインチューニングであり、構造化された状態、質問、および選択肢のリストから 1 つの選択肢を選ぶように訓練されています。このモデルは decisions カテゴリに属し、その名前はその位置づけを反映しています。つまり、汎用チャットモデルではなく実験的なリリースです。

このモデルはテキストのみを入力として受け取り、意思決定のみを出力として生成します。コンテキストウィンドウは 32768 トークンで、構造化された状態、質問、および 2 から 24 個の候補選択肢のリストを 1 回のリクエストに収めるのに十分です。最大出力は 8 トークンで、これはタスクの形に合っています。モデルは選択肢を返すのであり、長文を返すのではありません。ここでは自由形式のテキスト生成はなく、画像、音声、その他の非テキスト入力もありません。

出力は提供されたリストから選ばれた単一の意思決定であるため、実用的なユースケースは、システムが既知の集合から 1 つの選択肢を選ぶ必要がある場面です。例としては、リクエストを正しいハンドラにルーティングする、固定された分類体系からカテゴリやラベルを選択する、ワークフロー内の次のアクションを選ぶ、エージェントループ内の分岐を解決する、などが挙げられます。構造化された状態と質問はモデルに必要なコンテキストを与え、選択肢リストは回答空間を制限するため、結果は散文を解析することなく下流のコードで直接利用できます。

このモデルは、モデル id "togethercomputer/tev1-4b-experimental" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形に従っているため、通常のリクエストボディで状態、質問、選択肢をテキスト入力として送信し、レスポンスから意思決定を読み取ります。このモデルは標準のパラメータ以外の追加リクエストパラメータをサポートしていないため、調整できる temperature、top_p、または同様のサンプリング制御はありません。最大出力が 8 トークンであるため、レスポンスは設計上短くなります。

このモデルは、選択肢が限定された意思決定タスクに適しており、自由形式の会話、長文の執筆、またはツールを多用する推論には適していません。タスクが生成された散文、複数ステップの説明、またはテキスト以外の入力を必要とする場合は、別のモデルの方が適しています。32768 トークンのコンテキストと 2 から 24 個の選択肢の範囲も、このモデルが訓練された問題の形を定義しているため、状態と質問は簡潔にし、選択肢リストはその範囲内に収めてください。