Z.ai: GLM 4.5

Z.ai: GLM 4.5 es un modelo de texto de Z.ai, lanzado por el proveedor el 2025-07-25. Se describe como el último modelo fundacional insignia de Z.ai, creado específicamente para aplicaciones basadas en agentes, y utiliza una arquitectura de Mezcla de Expertos (MoE). Si estás eligiendo un modelo de texto de propósito general para una aplicación que necesita planificar, llamar herramientas y producir respuestas largas, este es el modelo que Z.ai posiciona en la cima de su línea de productos.

El modelo toma texto como entrada y devuelve texto como salida, por lo que encaja en cargas de trabajo estándar de chat y completado. Admite una longitud de contexto de hasta 131072 tokens, que es aproximadamente 128k, y una salida máxima de 98304 tokens. Su fecha de corte de conocimiento es 2024-12-31, por lo que cualquier cosa posterior a esa fecha queda fuera de aquello con lo que se entrenó el modelo. La combinación de una ventana de contexto grande y un presupuesto de salida amplio significa que puedes alimentarlo con documentos largos, transcripciones o resultados de herramientas y aún dejar espacio para una respuesta sustancial.

Esas capacidades apuntan a algunos usos prácticos. Los flujos de trabajo de estilo agente son el encaje más claro, ya que el modelo se creó específicamente para ellos y admite el llamado de herramientas, lo que le permite decidir cuándo invocar una función y cómo usar el resultado. El trabajo con documentos largos es otro: resumir, extraer datos estructurados o responder preguntas sobre entradas que no cabrían en un contexto más pequeño. Debido a que acepta un parámetro de formato de respuesta, también se puede usar para tareas en las que necesitas que la salida tenga una forma particular, como JSON para procesamiento posterior. El soporte de razonamiento lo hace adecuado para problemas que se benefician de un pensamiento paso a paso antes de la respuesta final.

Llamas al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "z-ai/glm-4.5". Los parámetros de solicitud que admite son include_reasoning, max_tokens, reasoning, response_format, temperature, tool_choice, tools, top_k y top_p. En la práctica, eso significa que puedes controlar el muestreo con temperature, top_p y top_k, limitar la longitud de la respuesta con max_tokens, habilitar o inspeccionar el razonamiento con las opciones reasoning e include_reasoning, definir funciones invocables con tools y tool_choice, y restringir la forma de la salida con response_format.

Algo que debes tener en cuenta es que el modelo es solo de texto. No acepta imágenes ni audio, así que si tu entrada incluye esos elementos, necesitas un modelo diferente o un paso de preprocesamiento. La fecha de corte de conocimiento de 2024-12-31 también significa que no conocerá eventos posteriores a esa fecha a menos que proporciones la información en el prompt. Para tareas sencillas y de baja latencia en las que no se necesite ninguna de las funciones de razonamiento o herramientas, un modelo más pequeño puede ser una mejor opción.