Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 (batch) é um modelo de geração de texto da Mistral AI, identificado na api14 como mistralai/mistral-medium-3-5:batch. É um modelo denso de 128B para seguimento de instruções, o que significa que todos os seus parâmetros estão ativos em cada pedido, em vez de serem encaminhados através de uma configuração de mistura de especialistas. A variante batch é a versão exposta através deste endpoint, e o modelo situa-se na categoria de texto na api14.

O modelo aceita entradas de texto, imagem e ficheiro, e devolve apenas texto. A sua janela de contexto é de 262.144 tokens, e o comprimento máximo de saída é de 209.715 tokens, pelo que pode receber entradas muito grandes e produzir respostas longas numa única chamada. Como as imagens e os ficheiros são aceites juntamente com texto, pode enviar prompts mistos que combinam instruções escritas com conteúdo visual ou documental, e o modelo irá raciocinar sobre tudo isso antes de gerar a sua resposta.

Essas capacidades apontam para alguns usos práticos. A grande janela de contexto adequa-se a trabalho sobre documentos longos, bases de código ou entradas com múltiplos ficheiros, onde de outra forma seria necessário dividir e juntar resultados. A entrada de imagem torna-o adequado para tarefas que misturam capturas de ecrã, diagramas ou páginas digitalizadas com instruções de texto. A Mistral descreve o modelo como concebido para fluxos de trabalho agênticos, programação e tarefas complexas, pelo que a chamada de ferramentas e a geração estruturada são pontos de partida razoáveis. A variante batch é uma escolha natural para tarefas offline ou orientadas para débito, em que submete muitos pedidos e recolhe os resultados, em vez de para chat interativo, onde a latência é mais importante.

Chama o modelo através da API compatível com OpenAI da api14, utilizando o id de modelo mistralai/mistral-medium-3-5:batch. O endpoint suporta frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools e top_p. Na prática, isso significa que pode controlar a amostragem com temperature, top_p e os dois parâmetros de penalização, limitar a saída com max_tokens, fixar a aleatoriedade com seed e definir sequências de paragem. Para trabalho estruturado, response_format e structured_outputs permitem restringir a forma da resposta, enquanto tools e tool_choice suportam a chamada de funções, e os parâmetros de raciocínio permitem ajustar quanto raciocínio interno o modelo expõe ou realiza.

Um aspeto a ponderar é a designação batch. Se a sua aplicação precisa de respostas de baixa latência, turno a turno, um modelo não batch é provavelmente a melhor escolha, e o mesmo se aplica se apenas precisa de entrada e saída de texto, uma vez que as modalidades de imagem e ficheiro ficariam por usar. O contexto de 262.144 tokens e o limite de saída de 209.715 tokens são generosos, mas continuam a ser finitos, pelo que corpora extremamente grandes podem ter de ser divididos entre chamadas. Dentro desses limites, o modelo cobre trabalho de texto com contexto longo, prompts multimodais, programação e fluxos de agentes orientados por ferramentas a partir de um único endpoint.