OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) è un modello testuale a pesi aperti di OpenAI, rilasciato con licenza Apache 2.0. È un modello da 21 miliardi di parametri costruito su un'architettura Mixture-of-Experts (MoE) con 3,6 miliardi di parametri attivi per ogni forward pass. La variante batch è servita tramite api14 come endpoint di generazione testuale, e l'id del modello da usare nelle richieste è openai/gpt-oss-20b:batch.

Il modello accetta input testuale e produce output testuale. Ha una finestra di contesto di 131072 token e un output massimo di 117964 token, con un knowledge cutoff al 2024-06-30. Poiché è un modello capace di ragionamento, le richieste possono abilitare l'output di ragionamento e controllare quanta effort di ragionamento viene applicata. Supporta inoltre output strutturati e formati di risposta, il che lo rende adatto a compiti in cui conta la forma del testo restituito, non solo il suo contenuto.

Queste capacità indicano un insieme piuttosto ampio di usi pratici. La gestione di contesti lunghi si adatta alla summarizzazione di documenti, alla revisione di codice su più file e al question answering su materiale di riferimento esteso. Il supporto al ragionamento aiuta con problemi a più passaggi, pianificazione e analisi in cui il modello trae vantaggio dall'elaborare passaggi intermedi. Il tool calling e gli output strutturati si adattano a workflow in stile agente, all'estrazione di dati in schemi fissi e a pipeline che richiedono risposte leggibili dalla macchina. La variante batch è pensata per carichi di lavoro in cui il throughput conta più dell'interattività immediata, come la generazione offline, la classificazione in blocco e l'arricchimento di dataset.

Per chiamarlo tramite api14, usa l'interfaccia chat completions compatibile con OpenAI con l'id del modello openai/gpt-oss-20b:batch. Il corpo della richiesta accetta frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. Se usi già una libreria client OpenAI, puoi puntarla al base URL di api14 e mantenere la struttura delle richieste esistente, modificando solo l'id del modello e gli eventuali parametri che vuoi impostare.

Tieni presente il knowledge cutoff: il modello non conosce eventi successivi al 2024-06-30, quindi tutto ciò che è sensibile al tempo potrebbe richiedere retrieval o un modello diverso. L'input è solo testuale, quindi compiti su immagini o audio restano fuori dal suo ambito. Se il tuo carico di lavoro richiede risposte interattive a bassa latenza anziché elaborazione batch, un deployment non batch potrebbe essere più adatto.