IBM: Granite 4.0 Micro

IBM Granite 4.0 Micro は、api14 上で ibm-granite/granite-4.0-h-micro として掲載されており、IBM の Granite 4 ファミリーに属するテキストモデルです。3B パラメータのモデルであり、IBM は Granite 4 ファミリーを、同社がリリースしてきた一連のモデルにおける最新のものと説明しています。この特定のバリアントはそのファミリーの H-Micro メンバーであり、IBM はこのファミリーが長いタスク向けにファインチューニングされていると述べており、そのため Micro サイズは、より大きなモデルに移行せずに IBM の新しい世代を求めるチームにとって、Granite 4 ラインへの取り組みやすい入口となっています。

このモデルはテキスト入力で動作し、テキスト出力のみを生成します。画像や音声は受け付けず、テキスト以外は何も生成しません。コンテキストウィンドウは 131,000 トークンで、最大出力は 117,900 トークンです。大きなコンテキストと非常に大きな出力許容量のこの組み合わせにより、長い文書を 1 回のリクエストで送信しても、モデルの返答用にかなりの余地を残せます。これはこのサイズのモデルとしては珍しいことです。

実用的な用途はこれらの数値から導かれます。長いレポート、契約書、文字起こしの要約はコンテキストウィンドウ内に余裕をもって収まります。抽出や構造化生成も自然に適合します。モデルが response_format をサポートしており、長い出力上限により大きな JSON オブジェクトや複数セクションの文書を 1 回の呼び出しで出力できるためです。出力上限が入力ウィンドウに対して generous であるため、回答自体が長いタスク、たとえば書き換え、拡張、元資料からの長い文章の起草なども実行可能です。一般的なチャット、分類、タグ付け、テキストデータ上の軽量エージェントも妥当な出発点です。

モデル id である ibm-granite/granite-4.0-h-micro を使用して、api14 の OpenAI 互換 API を通じて呼び出します。そのため、既存の OpenAI SDK やクライアントはベース URL とキーの変更だけで動作します。サポートされるリクエストパラメータは、frequency_penalty、logit_bias、logprobs、max_tokens、min_p、presence_penalty、repetition_penalty、response_format、seed、stop、temperature、top_k、top_logprobs、top_p です。このセットは、サンプリング制御 (temperature、top_p、top_k、min_p)、繰り返し処理 (frequency_penalty、presence_penalty、repetition_penalty)、seed による決定論的な再試行、response_format による構造化出力、logprobs と top_logprobs によるトークンレベルの検査をカバーしています。

テキストのみの入力と出力以外に明記された制限はありません。また、これは 3B パラメータのモデルである点に留意する価値があります。そのため、vision、audio、またははるかに大きなモデルが必要な場合は、api14 上の別の選択肢のほうが適している可能性があります。それ以外の場合、高い出力上限を伴う長いコンテキストのテキスト作業には、直接テストする価値があります。