Google: Gemma 3 12B

Gemma 3 12B är en textgenereringsmodell från Google, släppt den 13 mars 2025 som en del av Gemma 3-familjen. Det är den instruktionstränade 12B-varianten, identifierad på api14 som google/gemma-3-12b-it. Gemma 3 markerar Googles steg mot att föra in multimodalitet i Gemma-serien, så denna modell accepterar både text och bilder som indata samtidigt som den producerar text som utdata.

Modellen stöder ett kontextfönster på upp till 131072 tokens och kan generera upp till 16384 tokens i ett enda svar. Dess kunskapsavgränsning är 31 augusti 2024. Enligt Google hanterar Gemma 3 över 140 språk och erbjuder förbättrad matematik, resonemang och chattbeteende jämfört med tidigare Gemma-släpp. Eftersom den accepterar bildindata tillsammans med text kan den arbeta med vision-language-prompter snarare än enbart text, även om allt den returnerar är ren text.

Dessa förmågor pekar mot en ganska bred uppsättning praktiska användningsområden. Det långa kontextfönstret passar uppgifter som involverar stora dokument, såsom att sammanfatta långa rapporter, besvara frågor över en textmängd eller arbeta igenom utökade chatthistoriker. Multimodal indata gör den lämplig för att beskriva eller resonera kring bilder, till exempel att extrahera information från skärmbilder, diagram eller foton och returnera ett skriftligt svar. Dess flerspråkiga täckning och förbättrade matematik och resonemang gör den användbar för översättning, strukturerad problemlösning och allmänna assistenter. Tool calling och strukturerade utdata gör det också möjligt för den att ingå i pipelines som behöver maskinläsbara svar eller anrop till externa funktioner.

Du anropar modellen via api14:s OpenAI-kompatibla API med modell-id:t google/gemma-3-12b-it, så befintliga OpenAI-klientbibliotek fungerar med endast bas-URL och nyckel ändrade. De begärandeparametrar den stöder är frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k och top_p. Denna blandning täcker samplingskontroller, deterministisk utdata via seed, stoppsekvenser, JSON- eller schemabegränsade svar genom response_format och structured_outputs, samt verktygsanvändning genom tools och tool_choice.

En sak att ha i åtanke är taket för utdata: svar begränsas till 16384 tokens även om kontextfönstret är mycket större, så mycket långa genereringar behöver delas upp eller fortsättas över flera anrop. Kunskapsavgränsningen den 31 augusti 2024 innebär också att modellen inte har någon kännedom om händelser efter detta datum om du inte tillhandahåller informationen i prompten. Om din uppgift är textbaserad och inte drar nytta av bildindata kan en mindre eller mer specialiserad textmodell vara billigare och snabbare, men för blandat text- och bildarbete inom en lång kontext är denna modell ett rimligt standardval.