Z.ai: GLM Flash Latest

GLM Flash Latest est un modèle de génération de texte de Z.ai, publié sous l'identifiant de modèle ~z-ai/glm-flash-latest. Le nom reflète le comportement du point de terminaison : il redirige toujours vers le dernier modèle de la famille GLM Flash, de sorte qu'une requête effectuée aujourd'hui et une requête effectuée plus tard peuvent être servies par des versions sous-jacentes différentes au fur et à mesure que Z.ai met à jour la famille. Si vous voulez le comportement le plus récent de GLM Flash sans suivre vous-même les numéros de version, cet alias est le moyen prévu pour l'obtenir.

Le modèle accepte du texte, des images et de la vidéo en entrée, et il produit du texte en sortie. Sa fenêtre de contexte est de 1 048 576 jetons, avec une sortie maximale de 943 718 jetons. Cette combinaison d'une très grande fenêtre d'entrée et d'une très grande allowance de sortie signifie que vous pouvez envoyer de longs documents, transcriptions ou médias avec vos instructions tout en laissant une marge substantielle pour la réponse du modèle. Comme les images et la vidéo sont acceptées côté entrée, les prompts peuvent mélanger du matériel écrit et du matériel visuel dans une seule requête.

Ces capacités renvoient à un ensemble d'usages assez spécifique. Le travail sur contexte long est l'application évidente : résumer ou extraire des informations structurées à partir de rapports volumineux, de bases de code, de journaux ou de collections de livres qui ne tiendraient pas dans une fenêtre plus petite. L'entrée multimodale prend en charge des tâches comme décrire ou raisonner sur des images et des clips vidéo, par exemple transformer des séquences ou des captures d'écran en résumés écrits, légendes ou notes structurées. Le grand budget de sortie convient aussi aux tâches de génération où la réponse elle-même est longue, comme rédiger des documents ou produire des analyses détaillées plutôt que des réponses courtes.

Vous appelez le modèle via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle "~z-ai/glm-flash-latest". Comme l'interface suit la forme des chat completions d'OpenAI, les bibliothèques clientes et le code OpenAI existants fonctionnent généralement en ne changeant que l'URL de base et l'identifiant de modèle. Le modèle prend en charge un large ensemble de paramètres de requête : temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs et top_logprobs. Il prend également en charge response_format et structured_outputs pour la sortie contrainte, tools, tool_choice et parallel_tool_calls pour l'appel de fonctions, ainsi que les contrôles de raisonnement reasoning, reasoning_effort et include_reasoning.

Une considération pratique est le comportement d'alias : comme le point de terminaison redirige vers le dernier modèle GLM Flash, le modèle sous-jacent exact peut changer au fil du temps, ce qui est pratique pour rester à jour mais moins adapté si vous avez besoin d'une version figée et reproductible pour des tests de régression. Le modèle est texte uniquement côté sortie, donc les tâches nécessitant des images générées, de l'audio ou d'autres sorties non textuelles sortent de son périmètre. Dans la génération de texte, cependant, la combinaison d'une fenêtre d'entrée d'un million de jetons, d'une entrée multimodale et d'une grande allowance de sortie couvre un large éventail de charges de travail de développeurs.