OpenAI: gpt-oss-20b (batch)

OpenAI: gpt-oss-20b (batch) es un modelo de texto de pesos abiertos de OpenAI, publicado bajo la licencia Apache 2.0. Es un modelo de 21B parámetros construido sobre una arquitectura de Mezcla de Expertos (MoE) con 3.6B parámetros activos por pasada forward. La variante batch se sirve a través de api14 como un endpoint de generación de texto, y el id de modelo que usas en las solicitudes es openai/gpt-oss-20b:batch.

El modelo acepta entrada de texto y produce salida de texto. Tiene una ventana de contexto de 131072 tokens y una salida máxima de 117964 tokens, con un corte de conocimiento de 2024-06-30. Debido a que es un modelo con capacidad de razonamiento, las solicitudes pueden habilitar la salida de razonamiento y controlar cuánto esfuerzo de razonamiento se aplica. También admite salidas estructuradas y formatos de respuesta, lo que lo hace adecuado para tareas donde la forma del texto devuelto importa, no solo su contenido.

Esas capacidades apuntan a un conjunto bastante amplio de usos prácticos. El manejo de contexto largo se adapta a la summarización de documentos, la revisión de código de múltiples archivos y la respuesta a preguntas sobre material de referencia extenso. El soporte de razonamiento ayuda con problemas de varios pasos, planificación y análisis donde el modelo se beneficia de trabajar a través de pasos intermedios. El llamamiento a herramientas y las salidas estructuradas encajan en flujos de trabajo estilo agente, extracción de datos hacia esquemas fijos y pipelines que necesitan respuestas legibles por máquina. La variante batch está orientada a cargas de trabajo donde el rendimiento importa más que la interactividad inmediata, como la generación offline, la clasificación masiva y el enriquecimiento de conjuntos de datos.

Para llamarlo a través de api14, usa la interfaz de chat completions compatible con OpenAI con el id de modelo openai/gpt-oss-20b:batch. El cuerpo de la solicitud acepta frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k y top_p. Si ya usas una biblioteca cliente de OpenAI, puedes apuntarla a la URL base de api14 y mantener tu estructura de solicitud existente, ajustando solo el id de modelo y cualquier parámetro que quieras establecer.

Ten en cuenta el corte de conocimiento: el modelo no conoce eventos posteriores al 2024-06-30, por lo que cualquier cosa sensible al tiempo puede necesitar recuperación o un modelo diferente. La entrada es solo texto, por lo que las tareas de imagen o audio quedan fuera de su alcance. Si tu carga de trabajo necesita respuestas interactivas de baja latencia en lugar de procesamiento por lotes, un despliegue no batch puede ser una mejor opción.