Google: Gemma 3 12B

Gemma 3 12B is een tekstgeneratiemodel van Google, uitgebracht op 13 maart 2025 als onderdeel van de Gemma 3-familie. Het is de instruction-tuned 12B-variant, geïdentificeerd op api14 als google/gemma-3-12b-it. Gemma 3 markeert Google's stap om multimodaliteit naar de Gemma-lijn te brengen, dus dit model accepteert zowel tekst als afbeeldingen als invoer en produceert tekst als uitvoer.

Het model ondersteunt een contextvenster van maximaal 131072 tokens en kan tot 16384 tokens genereren in een enkele reactie. De kennisafsluitdatum is 31 augustus 2024. Volgens Google verwerkt Gemma 3 meer dan 140 talen en biedt het verbeterde wiskunde, redeneren en chatgedrag in vergelijking met eerdere Gemma-releases. Omdat het beeldinvoer naast tekst accepteert, kan het werken met vision-language prompts in plaats van alleen tekst, hoewel alles wat het retourneert platte tekst is.

Die mogelijkheden wijzen op een redelijk breed scala aan praktische toepassingen. Het lange contextvenster is geschikt voor taken met grote documenten, zoals het samenvatten van lange rapporten, het beantwoorden van vragen over een tekstcorpus, of het doorwerken van uitgebreide chatgeschiedenissen. Multimodale invoer maakt het een redelijke keuze voor het beschrijven van of redeneren over afbeeldingen, bijvoorbeeld het extraheren van informatie uit screenshots, diagrammen of foto's en het retourneren van een geschreven antwoord. De meertalige dekking en verbeterde wiskunde en redeneren maken het nuttig voor vertaling, gestructureerde probleemoplossing en algemene assistenten. Tool calling en gestructureerde outputs stellen het ook in staat om binnen pipelines te passen die machineleesbare reacties of aanroepen naar externe functies nodig hebben.

Je roept het model aan via api14's OpenAI-compatibele API met het model-id google/gemma-3-12b-it, dus bestaande OpenAI-clientbibliotheken werken met alleen de base URL en key gewijzigd. De request-parameters die het ondersteunt zijn frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k en top_p. Die mix dekt sampling-controls, deterministische output via seed, stop-sequenties, JSON- of schema-beperkte reacties via response_format en structured_outputs, en toolgebruik via tools en tool_choice.

Een ding om in gedachten te houden is het uitvoerplafond: reacties zijn beperkt tot 16384 tokens, zelfs hoewel het contextvenster veel groter is, dus zeer lange generaties moeten worden opgesplitst of voortgezet over meerdere aanroepen. De kennisafsluitdatum van 31 augustus 2024 betekent ook dat het model geen weet heeft van gebeurtenissen na die datum, tenzij je de informatie in de prompt verstrekt. Als je taak alleen tekst is en niet profiteert van beeldinvoer, kan een kleiner of gespecialiseerder tekstmodel goedkoper en sneller zijn, maar voor gemengd tekst- en beeldwerk binnen een lange context is dit model een verstandige standaardkeuze.