OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) är en textmodell med öppna vikter från OpenAI, släppt under Apache 2.0-licensen. Det är en modell med 21B parametrar byggd på en Mixture-of-Experts-arkitektur (MoE) med 3,6B aktiva parametrar per framåtpassning. Batch-varianten serveras via api14 som en slutpunkt för textgenerering, och modell-id:t du använder i förfrågningar är openai/gpt-oss-20b:batch.

Modellen tar emot textinmatning och producerar textutmatning. Den har ett kontextfönster på 131072 tokens och en maximal utmatning på 117964 tokens, med en kunskapsgräns på 2024-06-30. Eftersom det är en modell med resonemangsförmåga kan förfrågningar aktivera resonemangsutmatning och styra hur mycket resonemangsarbete som tillämpas. Den stöder även strukturerade utmatningar och svarsformat, vilket gör den lämplig för uppgifter där formen på den returnerade texten spelar roll, inte bara innehållet.

Dessa funktioner pekar mot en ganska bred uppsättning praktiska användningsområden. Hantering av lång kontext passar dokument sammanfattning, kodgranskning av flera filer och fråge besvarande över stort referensmaterial. Resonemangsstöd hjälper till med flerstegsproblem, planering och analys där modellen drar nytta av att arbeta igenom mellanliggande steg. Tool calling och strukturerade utmatningar passar agent-liknande arbetsflöden, datautvinning till fasta scheman och pipelines som behöver maskinläsbara svar. Batch-varianten riktar sig mot arbetsbelastningar där genomströmning spelar större roll än omedelbar interaktivitet, såsom offline-generering, massklassificering och datasetberikning.

För att anropa den via api14, använd det OpenAI-kompatibla chat completions-gränssnittet med modell-id:t openai/gpt-oss-20b:batch. Förfrågningskroppen accepterar frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k och top_p. Om du redan använder ett OpenAI-klientbibliotek kan du peka det mot api14:s bas-URL och behålla din befintliga förfrågningsstruktur, och bara justera modell-id:t och eventuella parametrar du vill ange.

Tänk på kunskapsgränsen: modellen känner inte till händelser efter 2024-06-30, så allt tidskänsligt kan behöva hämtning eller en annan modell. Indata är endast text, så bild- eller ljuduppgifter faller utanför dess omfattning. Om din arbetsbelastning behöver interaktiva svar med låg latens snarare än batchbearbetning kan en icke-batch-distribution vara en bättre lösning.