OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) is een open-weight tekstmodel van OpenAI, uitgebracht onder de Apache 2.0 licentie. Het is een model met 21B parameters, gebouwd op een Mixture-of-Experts (MoE) architectuur met 3.6B actieve parameters per forward pass. De batch-variant wordt geleverd via api14 als een tekstgeneratie-endpoint, en het model-id dat je in verzoeken gebruikt is openai/gpt-oss-20b:batch.

Het model accepteert tekstinvoer en produceert tekstuitvoer. Het heeft een contextvenster van 131072 tokens en een maximale uitvoer van 117964 tokens, met een knowledge cutoff van 2024-06-30. Omdat het een model is dat kan redeneren, kunnen verzoeken reasoning-uitvoer inschakelen en bepalen hoeveel reasoning-inspanning wordt toegepast. Het ondersteunt ook gestructureerde uitvoer en response formats, wat het geschikt maakt voor taken waarbij de vorm van de geretourneerde tekst belangrijk is, niet alleen de inhoud.

Die mogelijkheden wijzen op een redelijk breed scala aan praktische toepassingen. Verwerking van lange context past bij documentsamenvatting, code review van meerdere bestanden, en vraagbeantwoording over grote referentiematerialen. Reasoning-ondersteuning helpt bij meerstapsproblemen, planning en analyse waarbij het model baat heeft bij het doorwerken van tussenstappen. Tool calling en gestructureerde uitvoer passen bij agent-achtige workflows, data-extractie naar vaste schema's, en pipelines die machineleesbare antwoorden nodig hebben. De batch-variant is gericht op workloads waarbij doorvoer belangrijker is dan directe interactiviteit, zoals offline generatie, bulkclassificatie en datasetverrijking.

Om het via api14 aan te roepen, gebruik je de OpenAI-compatibele chat completions-interface met het model-id openai/gpt-oss-20b:batch. De request body accepteert frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, en top_p. Als je al een OpenAI client library gebruikt, kun je deze op de api14 base URL richten en je bestaande request-structuur behouden, waarbij je alleen het model-id en eventuele parameters die je wilt instellen aanpast.

Houd de knowledge cutoff in gedachten: het model kent geen gebeurtenissen na 2024-06-30, dus alles wat tijdsgevoelig is kan retrieval of een ander model nodig hebben. Invoer is alleen tekst, dus beeld- of audiotaken vallen buiten het bereik. Als je workload responsen met lage latency nodig heeft in plaats van batchverwerking, kan een niet-batch deployment beter passen.