PrismML: Ternary Bonsai 2 27B

PrismML: Ternary Bonsai 2 27B は、PrismML のテキストに焦点を当てたモデルで、プロバイダーによって 2026 年 9 月 18 日にリリースされました。これは Qwen3.8-27B から派生した 27B パラメータの推論モデルで、api14 のテキストカテゴリに位置します。テキストパイプライン用のモデルを選ぶ場合、重要な背景として、これは汎用チャットだけではなく推論作業向けに作られているという点があります。

このモデルはテキストと画像を入力として受け取り、テキストを返します。コンテキストウィンドウは 262,144 トークンで、最大出力は 32,768 トークンです。プロバイダーの説明によると、コーディング、数学、ツール呼び出し、画像理解をサポートします。Ternary 圧縮はこのモデルの構築方法の一部であり、モデルサイズやデプロイ特性が重要なら注目に値します。推論の挙動は固定ではなくリクエストパラメータを通じて公開されるため、モデルが実行する推論の量を制御できます。

これらの機能はいくつかの実用的な用途を示します。コードと数学を扱うため、コード生成、コードの説明、推論の過程が重要となる段階的な問題解決などのタスクに適します。画像理解により、テキストプロンプトと一緒にスクリーンショット、図、その他の画像を渡すこともでき、グラフを読む、UI スクリーンショットを解釈するといったタスクに役立ちます。ツール呼び出しと構造化出力により、自由なテキストではなく、モデルが関数を呼び出したり定義された形でデータを返したりする必要があるエージェントやパイプラインの候補になります。

api14 の OpenAI 互換 API を通じて、モデル id "prism-ml/ternary-bonsai-2-27b" を使って呼び出します。サポートするリクエストパラメータは frequency_penalty、include_reasoning、logprobs、max_tokens、presence_penalty、reasoning、reasoning_effort、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_logprobs、top_p です。すでに OpenAI 形式のクライアントを使っている場合、主な変更はモデル id と設定するパラメータです。コンテキストウィンドウははるかに大きくても最大出力は 32,768 トークンなので、出力を制限するには max_tokens を使用してください。

計画しておくべき制限があります。入力はテキストと画像ですが、出力はテキストのみなので、画像や音声を生成しません。ワークロードが純粋に対話的で、推論、ツール呼び出し、画像入力が必要ない場合、より単純なテキストモデルの方が適しているかもしれません。長い文書の場合、262K トークンのコンテキストウィンドウは十分に広いですが、32,768 トークンの出力上限が別途適用されることを忘れないでください。コーディング、数学、ツール呼び出し、画像理解の主張の出典はプロバイダーの説明なので、これらは測定された性能ではなく記載された範囲として扱ってください。