OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) é um modelo de texto de pesos abertos da OpenAI, lançado sob a licença Apache 2.0. É um modelo de 21B parâmetros construído sobre uma arquitetura Mixture-of-Experts (MoE) com 3.6B parâmetros ativos por passagem direta. A variante batch é servida através do api14 como um endpoint de geração de texto, e o id de modelo que você usa nas requisições é openai/gpt-oss-20b:batch.

O modelo aceita entrada de texto e produz saída de texto. Ele tem uma janela de contexto de 131072 tokens e uma saída máxima de 117964 tokens, com um corte de conhecimento em 2024-06-30. Por ser um modelo com capacidade de raciocínio, as requisições podem habilitar a saída de raciocínio e controlar quanta capacidade de raciocínio é aplicada. Ele também suporta saídas estruturadas e formatos de resposta, o que o torna adequado para tarefas onde a forma do texto retornado importa, não apenas seu conteúdo.

Essas capacidades apontam para um conjunto bastante amplo de usos práticos. O manuseio de contexto longo é adequado para sumarização de documentos, revisão de código com múltiplos arquivos e resposta a perguntas sobre grande material de referência. O suporte a raciocínio ajuda com problemas de múltiplas etapas, planejamento e análise onde o modelo se beneficia de trabalhar através de etapas intermediárias. Chamada de ferramentas e saídas estruturadas se encaixam em fluxos de trabalho estilo agente, extração de dados para esquemas fixos e pipelines que precisam de respostas legíveis por máquina. A variante batch é voltada para cargas de trabalho onde a taxa de transferência importa mais do que a interatividade imediata, como geração offline, classificação em massa e enriquecimento de conjuntos de dados.

Para chamá-lo através do api14, use a interface de chat completions compatível com OpenAI com o id de modelo openai/gpt-oss-20b:batch. O corpo da requisição aceita frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. Se você já usa uma biblioteca cliente da OpenAI, pode apontá-la para a URL base do api14 e manter sua estrutura de requisição existente, ajustando apenas o id de modelo e quaisquer parâmetros que você queira definir.

Tenha em mente o corte de conhecimento: o modelo não conhece eventos após 2024-06-30, então qualquer coisa sensível ao tempo pode precisar de recuperação ou de um modelo diferente. A entrada é apenas texto, então tarefas de imagem ou áudio ficam fora do seu escopo. Se sua carga de trabalho precisa de respostas interativas de baixa latência em vez de processamento em lote, uma implantação não batch pode ser mais adequada.