StepFun: Step 3.5 Flash

O Step 3.5 Flash é um modelo de texto da StepFun, listado na api14 sob o id de modelo stepfun/step-3.5-flash. A StepFun descreve-o como o seu modelo de base de código aberto mais capaz, construído sobre uma arquitetura esparsa de Mistura de Especialistas que ativa apenas 11B dos seus 196B parâmetros por token. Enquadra-se na categoria de texto, pelo que se destina a trabalho de linguagem e não a imagem, áudio ou outras modalidades.

O modelo recebe texto e devolve texto. Suporta uma janela de contexto de 262144 tokens, suficientemente grande para conter documentos longos, conversas prolongadas ou ficheiros de código consideráveis num único pedido, e pode produzir até 65536 tokens na sua saída. Entre os seus parâmetros suportados estão reasoning e include_reasoning, pelo que o modelo pode expor um modo de raciocínio a par das suas respostas normais. Também aceita tools e tool_choice, o que significa que lhe podem ser dadas definições de funções e pedido que as invoque.

Estas capacidades apontam para alguns usos práticos. O contexto longo é adequado para resumir ou consultar material de origem extenso, como documentação técnica, contratos ou bases de código com vários ficheiros, sem os dividir primeiro em blocos. O parâmetro reasoning encaixa em problemas que beneficiam de trabalho passo a passo, por exemplo análise em várias etapas ou depuração. A chamada de ferramentas torna-o um candidato para fluxos de trabalho ao estilo de agente, em que o modelo decide que função invocar, e o limite de saída de 65536 tokens ajuda quando a própria resposta é longa, como um relatório gerado ou uma refatoração grande.

Chama-o através da API compatível com OpenAI da api14 usando o id de modelo stepfun/step-3.5-flash, pelo que as bibliotecas cliente OpenAI existentes e as formas de pedido funcionam apenas com a mudança do nome do modelo. Os parâmetros de pedido que suporta são frequency_penalty, include_reasoning, max_tokens, reasoning, temperature, tool_choice, tools, top_k e top_p. Na prática, define temperature, top_p ou top_k para orientar a amostragem, usa max_tokens para limitar a resposta, passa tools e tool_choice para chamada de funções, e alterna reasoning ou include_reasoning quando quiser o comportamento de raciocínio do modelo na resposta.

A principal restrição a ter em conta é que este é um modelo apenas de texto: não aceita entrada de imagem ou áudio, pelo que uma tarefa multimodal necessita de um modelo diferente. Se a sua carga de trabalho for puramente de texto e couber dentro do contexto de 262144 tokens e dos limites de saída de 65536 tokens, o Step 3.5 Flash é uma escolha razoável, particularmente quando quiser raciocínio e chamada de ferramentas no mesmo modelo.