Google: Gemma 3 4B

Google: Gemma 3 4B は、2025年3月13日にリリースされた Google のテキスト生成モデルです。これは Gemma 3 ファミリーに属しており、Google はこのファミリーについて、マルチモーダリティを導入したと説明しています。つまり、これらのモデルはテキストだけでなく、視覚と言語の入力を受け付けます。名前の 4B はそのファミリー内でのモデルのサイズクラスを指し、it という接尾辞は指示チューニング済みのバリアントであることを示すため、生のテキストを続けるだけでなく、プロンプトに従い会話を行うように作られています。

このモデルはテキストと画像の入力を受け付け、テキスト出力を生成します。コンテキストウィンドウは 131072 トークンで、最大出力長は 16384 トークンです。Google は、最大 128k トークンのコンテキストウィンドウを処理し、140 以上の言語を理解し、以前の Gemma 世代と比べて数学、推論、チャットの能力が向上していると述べています。知識カットオフは 2024年8月31日であるため、それ以降の内容はモデルがトレーニング中に学習した範囲外です。入力に画像を含めることができるため、プロンプトではスクリーンショット、写真、図、スキャンしたページなどを文章による指示と組み合わせることができます。

これらの能力は、かなり幅広い実用的用途を示しています。長いコンテキストウィンドウは、長いレポートの要約、コードベースや契約書全体に対する質問への回答、履歴を切り詰めずに長い会話の一貫性を保つことなど、大規模なドキュメントを扱う作業に適しています。マルチモーダル入力により、画像の説明や画像からの情報抽出、グラフや図の読み取り、テキストの質問と一緒にドキュメント画像を処理するといったタスクに役立ちます。140 以上の言語にわたる多言語サポートは、多くの市場での翻訳、ローカライズ草案、顧客対応チャットに適しています。指示チューニング済みのチャット動作と、改善された推論および数学により、利用可能な最大のモデルを必要としないタスクにおけるアシスタント、構造化抽出、段階的な問題解決に合理的に適しています。

このモデルは、モデル id "google/gemma-3-4b-it" を使用して api14 の OpenAI 互換 API を通じて呼び出します。インターフェースは OpenAI chat completions の形式に従っているため、model フィールドにその id を、messages 配列にメッセージを入れ、関連する場合は画像コンテンツも含めて、chat completions エンドポイントにリクエストを送信します。このモデルは次のリクエストパラメータをサポートします: frequency_penalty、logit_bias、max_tokens、min_p、presence_penalty、repetition_penalty、response_format、seed、stop、structured_outputs、temperature、top_k、top_p。structured_outputs と response_format は、JSON やその他の定義された形式で返答を得たい場合に便利で、seed はより再現性の高いサンプリングを行いたい場合に役立ちます。

注意すべき制限の1つは、知識カットオフが 2024年8月31日であるため、それ以降の出来事に関する質問はトレーニングデータだけからは回答されないことです。また 4B というサイズは、より大きな Gemma 3 バリアントより下に位置することを意味するため、タスクが最も強力な推論や最も広い一般知識を必要とする場合は、より大きなモデルの方が適している可能性があります。より小規模で、長いコンテキスト、多言語、画像認識を伴う作業には、このモデルは妥当な出発点です。