Google: Gemma 3 12B

Gemma 3 12B è un modello di generazione di testo di Google, rilasciato il 13 marzo 2025 come parte della famiglia Gemma 3. È la variante 12B ottimizzata per le istruzioni, identificata su api14 come google/gemma-3-12b-it. Gemma 3 segna il passaggio di Google all'introduzione della multimodalità nella linea Gemma, quindi questo modello accetta sia testo che immagini come input, producendo testo come output.

Il modello supporta una finestra di contesto fino a 131072 token e può generare fino a 16384 token in una singola risposta. Il suo knowledge cutoff è il 31 agosto 2024. Secondo Google, Gemma 3 gestisce oltre 140 lingue e offre miglioramenti in matematica, ragionamento e comportamento in chat rispetto alle versioni precedenti di Gemma. Poiché accetta input di immagini insieme al testo, può lavorare con prompt vision-language anziché solo testo, sebbene tutto ciò che restituisce sia testo semplice.

Queste capacità indicano un insieme piuttosto ampio di utilizzi pratici. La lunga finestra di contesto si adatta a compiti che coinvolgono documenti di grandi dimensioni, come riassumere report lunghi, rispondere a domande su un corpo di testo o elaborare cronologie di chat estese. L'input multimodale lo rende adatto a descrivere o ragionare sulle immagini, ad esempio estraendo informazioni da screenshot, diagrammi o foto e restituendo una risposta scritta. La sua copertura multilingue e il miglioramento in matematica e ragionamento lo rendono utile per la traduzione, la risoluzione strutturata di problemi e gli assistenti generici. Anche il tool calling e gli output strutturati gli consentono di inserirsi in pipeline che richiedono risposte leggibili dalla macchina o chiamate a funzioni esterne.

Puoi chiamare il modello tramite l'API compatibile con OpenAI di api14 usando l'id del modello google/gemma-3-12b-it, quindi le librerie client OpenAI esistenti funzionano cambiando solo l'URL di base e la chiave. I parametri di richiesta supportati sono frequency_penalty, logit_bias, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. Questa combinazione copre i controlli di campionamento, l'output deterministico tramite seed, le sequenze di stop, le risposte JSON o vincolate da schema tramite response_format e structured_outputs, e l'uso di strumenti tramite tools e tool_choice.

Una cosa da tenere a mente è il limite massimo di output: le risposte sono limitate a 16384 token anche se la finestra di contesto è molto più ampia, quindi le generazioni molto lunghe devono essere suddivise o continuate su più chiamate. Il knowledge cutoff del 31 agosto 2024 significa anche che il modello non è a conoscenza di eventi successivi a tale data, a meno che tu non fornisca le informazioni nel prompt. Se il tuo compito è solo testuale e non trae vantaggio dall'input di immagini, un modello di testo più piccolo o più specializzato potrebbe essere più economico e veloce, ma per lavori misti di testo e immagini all'interno di un contesto lungo, questo modello è una scelta predefinita ragionevole.