Mistral: Mistral Small 3.1 24B

O Mistral Small 3.1 24B Instruct é um modelo de geração de texto da Mistral, lançado pelo fornecedor em 17 de março de 2025. É uma variante atualizada do Mistral Small 3 (2501) e possui 24 bilhões de parâmetros. No api14, ele se enquadra na categoria de texto, e o id do modelo que você usa ao chamá-lo é mistralai/mistral-small-3.1-24b-instruct.

O modelo aceita texto e imagens como entrada e retorna texto. Sua janela de contexto é de 128.000 tokens, com saída máxima de 102.400 tokens, portanto documentos longos e gerações longas cabem confortavelmente em uma única requisição. O corte de conhecimento é 31 de outubro de 2023. A entrada multimodal significa que você pode passar imagens junto com prompts de texto, o que é útil quando uma tarefa depende de informações que só existem em uma captura de tela, diagrama ou página digitalizada.

Como ele lida tanto com texto quanto com imagens em um contexto grande, o modelo é adequado para tarefas de compreensão de documentos e imagens: resumir relatórios longos, extrair dados estruturados de formulários digitalizados ou capturas de tela, responder perguntas fundamentadas em um documento fornecido e fluxos de trabalho com suporte misto de texto e imagem. O contexto de 128k também o torna razoável para perguntas em nível de base de código, históricos longos de conversa e análise em estilo de lote, em que você deseja enviar muito material em uma única chamada. O suporte a chamadas de ferramentas e funções estende isso a pipelines no estilo de agentes que precisam buscar dados ou disparar ações.

Você chama o modelo pela API compatível com OpenAI do api14 usando o id de modelo mistralai/mistral-small-3.1-24b-instruct, o que significa que SDKs e clientes OpenAI existentes funcionam apenas com a URL base e a chave alteradas. Os parâmetros de requisição suportados são frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs e top_p. Saídas estruturadas e os controles de amostragem são úteis quando você precisa de JSON previsível ou gerações rigidamente restringidas, enquanto seed ajuda com reprodutibilidade durante testes.

Dois limites vale a pena observar antes de se comprometer. O corte de conhecimento é 31 de outubro de 2023, então qualquer coisa após essa data precisa vir do seu prompt ou de ferramentas, e não do próprio conhecimento do modelo. A saída é apenas texto, então, se você precisa de imagens ou áudio gerados, este modelo não é o adequado. Para tarefas puramente de texto e bem dentro de um contexto menor, um modelo mais leve pode ser mais barato e rápido, mas para entrada multimodal com 128k tokens este cobre uma ampla gama de trabalhos.