Google: Gemma 3 12B

Gemma 3 12B ist ein Textgenerierungsmodell von Google, veröffentlicht am 13. März 2025 als Teil der Gemma 3 Familie. Es ist die instruktionsoptimierte 12B Variante, die auf api14 als google/gemma-3-12b-it identifiziert wird. Gemma 3 markiert Googles Schritt, Multimodalität in die Gemma Reihe zu bringen, daher akzeptiert dieses Modell sowohl Text als auch Bilder als Eingabe und erzeugt Text als Ausgabe.

Das Modell unterstützt ein Kontextfenster von bis zu 131072 Tokens und kann bis zu 16384 Tokens in einer einzigen Antwort generieren. Sein Wissensstichtag ist der 31. August 2024. Laut Google verarbeitet Gemma 3 über 140 Sprachen und bietet verbesserte Mathematik, Argumentation und Chat-Verhalten im Vergleich zu früheren Gemma Veröffentlichungen. Da es Bildeingaben neben Text akzeptiert, kann es mit Vision-Sprach-Eingabeaufforderungen arbeiten statt nur mit Text, obwohl alles, was es zurückgibt, reiner Text ist.

Diese Fähigkeiten deuten auf eine ziemlich breite Palette praktischer Anwendungen hin. Das lange Kontextfenster eignet sich für Aufgaben mit großen Dokumenten, wie das Zusammenfassen langer Berichte, das Beantworten von Fragen über einen Textbestand oder das Durcharbeiten ausgedehnter Chat-Verläufe. Multimodale Eingabe macht es zu einer vernünftigen Wahl für das Beschreiben oder Argumentieren über Bilder, zum Beispiel das Extrahieren von Informationen aus Screenshots, Diagrammen oder Fotos und das Zurückgeben einer schriftlichen Antwort. Seine mehrsprachige Abdeckung und verbesserte Mathematik und Argumentation machen es nützlich für Übersetzung, strukturierte Problemlösung und allgemeine Assistenten. Tool-Aufrufe und strukturierte Ausgaben ermöglichen es auch, innerhalb von Pipelines zu arbeiten, die maschinenlesbare Antworten oder Aufrufe externer Funktionen benötigen.

Sie rufen das Modell über die OpenAI-kompatible API von api14 mit der Modell-ID google/gemma-3-12b-it auf, sodass vorhandene OpenAI Client-Bibliotheken funktionieren, wenn nur die Basis-URL und der Schlüssel geändert werden. Die unterstützten Anforderungsparameter sind frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k und top_p. Diese Mischung deckt Sampling-Steuerungen, deterministische Ausgabe über seed, Stoppsequenzen, JSON- oder schema-beschränkte Antworten über response_format und structured_outputs sowie Tool-Nutzung über tools und tool_choice ab.

Eine Sache, die man beachten sollte, ist die Ausgabeobergrenze: Antworten sind auf 16384 Tokens begrenzt, obwohl das Kontextfenster viel größer ist, sodass sehr lange Generierungen aufgeteilt oder über mehrere Aufrufe fortgesetzt werden müssen. Der Wissensstichtag vom 31. August 2024 bedeutet auch, dass das Modell keine Kenntnis von Ereignissen nach diesem Datum hat, es sei denn, Sie liefern die Informationen im Prompt. Wenn Ihre Aufgabe textbasiert ist und nicht von Bildeingabe profitiert, kann ein kleineres oder spezialisierteres Textmodell billiger und schneller sein, aber für gemischte Text- und Bildarbeit innerhalb eines langen Kontexts ist dieses Modell eine sinnvolle Standardwahl.