Google: Gemma 3 12B

Gemma 3 12B は Google のテキスト生成モデルで、2025 年 3 月 13 日に Gemma 3 ファミリーの一部としてリリースされました。これは instruction-tuned の 12B バリアントで、api14 上では google/gemma-3-12b-it として識別されます。Gemma 3 は Google が Gemma ラインにマルチモーダリティをもたらす動きを示しており、このモデルはテキストと画像の両方を入力として受け付け、テキストを出力として生成します。

このモデルは最大 131072 トークンのコンテキストウィンドウをサポートし、1 回の応答で最大 16384 トークンを生成できます。知識カットオフは 2024 年 8 月 31 日です。Google によると、Gemma 3 は 140 以上の言語を扱い、以前の Gemma リリースと比較して数学、推論、チャットの挙動が改善されています。テキストと並んで画像入力を受け付けるため、テキストだけでなく視覚言語プロンプトでも動作しますが、返されるものはすべてプレーンテキストです。

これらの機能は、かなり幅広い実用的な用途を示しています。長いコンテキストウィンドウは、長いレポートの要約、テキスト群に対する質問応答、長いチャット履歴の処理など、大きなドキュメントを扱うタスクに適しています。マルチモーダル入力により、画像の説明や推論、たとえばスクリーンショット、図、写真から情報を抽出して文章で回答する用途にも適しています。多言語対応と改善された数学および推論により、翻訳、構造化された問題解決、汎用アシスタントに役立ちます。ツール呼び出しと構造化出力により、機械可読な応答や外部関数の呼び出しを必要とするパイプライン内にも組み込めます。

このモデルは api14 の OpenAI 互換 API を通じて、モデル ID google/gemma-3-12b-it を使用して呼び出します。そのため、既存の OpenAI クライアントライブラリはベース URL とキーを変更するだけで動作します。サポートされるリクエストパラメータは frequency_penalty、logit_bias、max_tokens、min_p、presence_penalty、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、tool_choice、tools、top_k、top_p です。この組み合わせは、サンプリング制御、seed による決定論的出力、停止シーケンス、response_format と structured_outputs による JSON またはスキーマ制約付き応答、tools と tool_choice によるツール使用をカバーします。

留意すべき点の 1 つは出力の上限です。コンテキストウィンドウははるかに大きいにもかかわらず、応答は 16384 トークンに制限されるため、非常に長い生成は分割するか、複数の呼び出しにまたがって継続する必要があります。また、知識カットオフが 2024 年 8 月 31 日であるため、プロンプトで情報を提供しない限り、モデルはそれ以降の出来事を認識しません。タスクがテキストのみで、画像入力の利点がない場合は、より小さいまたはより特化したテキストモデルの方が安価で高速な場合がありますが、長いコンテキスト内でテキストと画像を混在させる作業では、このモデルは妥当なデフォルトです。