OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) ist ein Textmodell mit offenen Gewichten von OpenAI, veröffentlicht unter der Apache 2.0 Lizenz. Es ist ein Modell mit 21B Parametern, das auf einer Mixture-of-Experts (MoE) Architektur mit 3,6B aktiven Parametern pro Vorwärtsdurchlauf basiert. Die Batch-Variante wird über api14 als Textgenerierungs-Endpunkt bereitgestellt, und die Modell-ID, die Sie in Anfragen verwenden, ist openai/gpt-oss-20b:batch.

Das Modell akzeptiert Texteingabe und erzeugt Textausgabe. Es hat ein Kontextfenster von 131072 Tokens und eine maximale Ausgabe von 117964 Tokens, mit einem Wissensstichtag von 2024-06-30. Da es ein reasoning-fähiges Modell ist, können Anfragen Reasoning-Ausgabe aktivieren und steuern, wie viel Reasoning-Aufwand angewendet wird. Es unterstützt außerdem strukturierte Ausgaben und Antwortformate, was es für Aufgaben geeignet macht, bei denen die Form des zurückgegebenen Textes wichtig ist, nicht nur sein Inhalt.

Diese Fähigkeiten weisen auf ein ziemlich breites Spektrum praktischer Anwendungen hin. Der Umgang mit langem Kontext eignet sich für Dokumentenzusammenfassung, Code-Review über mehrere Dateien und Fragebeantwortung über umfangreiches Referenzmaterial. Reasoning-Unterstützung hilft bei mehrstufigen Problemen, Planung und Analyse, bei denen das Modell davon profitiert, Zwischenschritte durchzuarbeiten. Tool-Aufrufe und strukturierte Ausgaben passen zu agentenähnlichen Workflows, Datenextraktion in feste Schemata und Pipelines, die maschinenlesbare Antworten benötigen. Die Batch-Variante ist auf Workloads ausgerichtet, bei denen Durchsatz wichtiger ist als unmittelbare Interaktivität, wie Offline-Generierung, Massenklassifizierung und Datensatzanreicherung.

Um es über api14 aufzurufen, verwenden Sie die OpenAI-kompatible Chat-Completions-Schnittstelle mit der Modell-ID openai/gpt-oss-20b:batch. Der Anfragetext akzeptiert frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k und top_p. Wenn Sie bereits eine OpenAI-Clientbibliothek verwenden, können Sie sie auf die api14-Basis-URL richten und Ihre bestehende Anfragestruktur beibehalten, wobei Sie nur die Modell-ID und alle Parameter anpassen, die Sie festlegen möchten.

Behalten Sie den Wissensstichtag im Hinterkopf: Das Modell kennt keine Ereignisse nach 2024-06-30, daher kann alles Zeitkritische Retrieval oder ein anderes Modell erfordern. Die Eingabe ist nur Text, daher fallen Bild- oder Audioaufgaben außerhalb seines Umfangs. Wenn Ihr Workload latenzarme interaktive Antworten statt Batch-Verarbeitung benötigt, kann eine Nicht-Batch-Bereitstellung besser geeignet sein.