OpenAI: gpt-oss-20b (batch)

OpenAI : gpt-oss-20b (batch) est un modèle textuel à pondérations ouvertes d'OpenAI, publié sous licence Apache 2.0. C'est un modèle de 21 milliards de paramètres construit sur une architecture Mixture-of-Experts (MoE) avec 3,6 milliards de paramètres actifs par passe avant. La variante batch est servie via api14 comme point de terminaison de génération de texte, et l'identifiant de modèle à utiliser dans les requêtes est openai/gpt-oss-20b:batch.

Le modèle accepte une entrée texte et produit une sortie texte. Il dispose d'une fenêtre de contexte de 131072 jetons et d'une sortie maximale de 117964 jetons, avec une date limite de connaissances au 2024-06-30. Comme c'est un modèle capable de raisonnement, les requêtes peuvent activer la sortie de raisonnement et contrôler l'effort de raisonnement appliqué. Il prend également en charge les sorties structurées et les formats de réponse, ce qui le rend adapté aux tâches où la forme du texte renvoyé compte, et pas seulement son contenu.

Ces capacités ouvrent sur un ensemble assez large d'usages pratiques. Le traitement de contextes longs convient à la synthèse de documents, à la revue de code multi-fichiers et aux questions-réponses sur des documents de référence volumineux. La prise en charge du raisonnement aide pour les problèmes à étapes multiples, la planification et l'analyse, là où le modèle bénéficie d'un passage par des étapes intermédiaires. L'appel d'outils et les sorties structurées correspondent aux flux de travail de type agent, à l'extraction de données vers des schémas fixes et aux pipelines qui ont besoin de réponses lisibles par machine. La variante batch vise les charges de travail où le débit compte plus que l'interactivité immédiate, comme la génération hors ligne, la classification en masse et l'enrichissement de jeux de données.

Pour l'appeler via api14, utilisez l'interface de complétions de chat compatible OpenAI avec l'identifiant de modèle openai/gpt-oss-20b:batch. Le corps de la requête accepte frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k et top_p. Si vous utilisez déjà une bibliothèque cliente OpenAI, vous pouvez la pointer vers l'URL de base api14 et conserver votre structure de requête existante, en ajustant seulement l'identifiant de modèle et les paramètres que vous souhaitez définir.

Gardez la date limite de connaissances à l'esprit : le modèle ne connaît pas les événements postérieurs au 2024-06-30, donc tout élément sensible au temps peut nécessiter une récupération ou un autre modèle. L'entrée est uniquement textuelle, donc les tâches d'image ou d'audio sortent de son périmètre. Si votre charge de travail nécessite des réponses interactives à faible latence plutôt qu'un traitement par lots, un déploiement non batch peut être plus approprié.