StepFun: Step 3.5 Flash

Étape 3.5 Flash est un modèle texte de StepFun, répertorié sur api14 sous l'identifiant de modèle stepfun/step-3.5-flash. StepFun le décrit comme son modèle de fondation open source le plus performant, construit sur une architecture Mixture of Experts creuse qui n'active que 11B de ses 196B paramètres par token. Il appartient à la catégorie texte, il est donc destiné au travail linguistique plutôt qu'à l'image, à l'audio ou à d'autres modalités.

Le modèle prend du texte en entrée et renvoie du texte en sortie. Il prend en charge une fenêtre de contexte de 262144 tokens, suffisamment grande pour contenir de longs documents, des conversations étendues ou des fichiers de code volumineux dans une seule requête, et il peut produire jusqu'à 65536 tokens en sortie. Parmi ses paramètres pris en charge figurent reasoning et include_reasoning, le modèle peut donc exposer un mode de raisonnement en plus de ses réponses normales. Il accepte également tools et tool_choice, ce qui signifie qu'on peut lui fournir des définitions de fonctions et lui demander de les appeler.

Ces capacités ouvrent la voie à quelques usages pratiques. Le contexte long convient à la synthèse ou à l'interrogation de sources volumineuses, comme de la documentation technique, des contrats ou des bases de code multi-fichiers, sans devoir les découper au préalable. Le paramètre reasoning convient aux problèmes qui bénéficient d'un travail étape par étape, par exemple une analyse en plusieurs étapes ou du débogage. L'appel d'outils en fait un candidat pour les flux de travail de type agent, où le modèle décide quelle fonction invoquer, et le plafond de sortie de 65536 tokens aide lorsque la réponse elle-même est longue, comme un rapport généré ou une refactorisation importante.

Vous l'appelez via l'API compatible OpenAI d'api14 en utilisant l'identifiant de modèle stepfun/step-3.5-flash, donc les bibliothèques clientes OpenAI existantes et les formats de requête fonctionnent en changeant uniquement le nom du modèle. Les paramètres de requête qu'il prend en charge sont frequency_penalty, include_reasoning, max_tokens, reasoning, temperature, tool_choice, tools, top_k et top_p. En pratique, vous définissez temperature, top_p ou top_k pour orienter l'échantillonnage, vous utilisez max_tokens pour plafonner la réponse, vous passez tools et tool_choice pour l'appel de fonctions, et vous activez reasoning ou include_reasoning lorsque vous voulez le comportement de raisonnement du modèle dans la réponse.

La principale contrainte à garder en tête est qu'il s'agit d'un modèle texte uniquement : il n'accepte pas d'entrée image ou audio, donc une tâche multimodale nécessite un autre modèle. Si votre charge de travail est purement textuelle et tient dans les limites de contexte de 262144 tokens et de sortie de 65536 tokens, Step 3.5 Flash est un choix raisonnable, en particulier lorsque vous voulez le raisonnement et l'appel d'outils dans le même modèle.