IBM: Granite 4.2 8B

IBM: Granite 4.2 8B は IBM の密な推論モデルで、モデル id である ibm-granite/granite-4.2-8b で公開されています。これはテキストカテゴリに属するため、画像、音声、動画の処理ではなく、言語作業のために作られています。IBM はこれを数学、コード生成、多言語対話、および多段階の推論を必要とするエージェント的ワークフロー向けに位置付けており、これは想定された利用者が、狭い単一タスクのシステムではなく、推論動作を備えた汎用テキストモデルを求める開発者であることを示しています。

入力側では、このモデルはテキストのみを受け付け、テキストのみを返します。コンテキストウィンドウは 131,072 トークンで、最大出力は 117,964 トークンであるため、同じリクエスト内で長い入力と長い生成の両方が可能です。サポートされるパラメータには、通常のサンプリング制御 (temperature、top_p、top_k、min_p、frequency_penalty、presence_penalty、repetition_penalty、seed、stop、logit_bias、logprobs、top_logprobs) と、reasoning、reasoning_effort、include_reasoning などの推論固有のオプションが含まれます。また、structured_outputs と response_format、さらに関数呼び出しのための tools と tool_choice もサポートします。

これらの機能は、いくつかの実用的な用途を示しています。数学とコード生成は自然に適合します。このモデルは推論モデルとして説明されており、問題を段階的に解き進めるよう依頼できるからです。多言語対話は、複数の言語でユーザーに応対するチャットアシスタントの候補になります。tools と tool_choice をサポートするため、モデルがどの関数を呼び出すかを決定し、その結果から続行するエージェント的ワークフロー、つまり多段階の連鎖の中に組み込むことができます。structured_outputs と response_format は、下流のコードが追加の後処理なしで解析できる JSON または別のスキーマ形式の応答が必要な場合に役立ちます。

api14 を通じて呼び出す方法は、他の OpenAI 互換モデルと同じです。クライアントを api14 のベース URL に向け、chat completions エンドポイントにリクエストを送信し、model フィールドを ibm-granite/granite-4.2-8b に設定します。リクエスト本文では上記のパラメータを任意に渡すことができ、max_tokens で応答を制限し、temperature やその他のサンプリング調整でランダム性を制御し、seed で再現性を確保し、stop シーケンスを指定し、関数呼び出しが必要な場合は tools または tool_choice を指定できます。推論動作は reasoning、reasoning_effort、include_reasoning で制御され、トークンレベルの確率が必要な場合は logprobs と top_logprobs を利用できます。

留意すべき主な制約はモダリティです。これはテキスト入力、テキスト出力のモデルであるため、画像や音声の理解を必要とするタスクには別のモデルが必要です。ワークロードが純粋にテキストであり、推論、ツール使用、または構造化出力の恩恵を受けるなら、Granite 4.2 8B は妥当な選択であり、131,072 トークンのコンテキストは大きなプロンプトと長い回答のための余地を与えます。