Google: Gemma 3 27B

Google Gemma 3 27B ist ein offenes Modell von Google, das unter der Gemma-Familie vertrieben und auf api14 unter der Modell-ID google/gemma-3-27b-it bereitgestellt wird. Es gehört zur Textkategorie, und das Veröffentlichungsdatum des Anbieters ist der 12. März 2025. Der Wissensstand endet am 31. August 2024, alles danach liegt also außerhalb dessen, was das Modell während des Trainings gesehen hat.

Das Modell akzeptiert Text- und Bildeingaben und gibt nur Text zurück, was es zu einem Vision-Sprachmodell statt zu einem reinen Textmodell macht. Sein Kontextfenster beträgt 131.072 Token, und die maximale Ausgabe liegt bei 117.964 Token, sodass sowohl lange Eingaben als auch lange Generierungen innerhalb derselben Anfrage möglich sind. Google beschreibt Gemma 3 als Unterstützung für Vision-Sprach-Eingaben, mit Kontextfenstern von bis zu 128k Token, Verständnis von über 140 Sprachen und verbessertem Mathematik-, Reasoning- und Chat-Verhalten im Vergleich zu früheren Gemma-Versionen.

Diese Fähigkeiten deuten auf einige praktische Anwendungen hin. Das Verstehen von Dokumenten und Screenshots passt natürlich, da man ein Bild zusammen mit einem Text-Prompt übergeben und eine schriftliche Antwort erhalten kann. Langkontext-Arbeiten wie das Zusammenfassen großer Dateien, das Durchsehen langer Threads oder das Beantworten von Fragen über einen großen Textbestand sind in vielen Fällen ohne Aufteilung möglich. Mehrsprachige Anwendungen profitieren von der angegebenen Sprachabdeckung. Strukturierte Extraktion und Chat-Assistenten sind ebenfalls sinnvoll, angesichts der unten stehenden Parameterliste. Reasoning- und Mathematik-Aufgaben werden unterstützt, allerdings enthalten die Fakten hier keine Benchmark-Zahlen, daher sollte man mit eigenen Daten evaluieren.

Man ruft es über die OpenAI-kompatible API von api14 mit der Modell-ID google/gemma-3-27b-it auf, sodass bestehende OpenAI-SDKs und Clients mit einer Änderung der Basis-URL funktionieren. Die unterstützten Anfrageparameter sind frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs und top_p. Tool-Aufrufe und strukturierte Ausgaben sind beide verfügbar, was Function Calling und JSON-förmige Antworten abdeckt. Verwende seed für Reproduzierbarkeit und logprobs mit top_logprobs, wenn du Konfidenz auf Token-Ebene benötigst.

Einige Einschränkungen sind erwähnenswert. Die Ausgabe ist nur Text, das Modell kann also keine Bilder generieren, obwohl es sie liest. Der Wissensstand vom 31. August 2024 bedeutet, dass aktuelle Ereignisse Retrieval oder Prompt-Kontext erfordern. Wenn deine Arbeitslast nur Text ist und keine Vision benötigt, kann ein kleineres Textmodell günstiger und schneller sein; wenn du Bildgenerierung oder Audio brauchst, suche woanders.