Mistral: Saba

Mistral: Saba é um modelo de texto da Mistral, lançado pelo fornecedor em 17 de fevereiro de 2025. É um modelo de linguagem de 24B parâmetros concebido especificamente para o Médio Oriente e o Sul da Ásia, treinado com dados regionais curados para fornecer respostas precisas e contextualmente relevantes, mantendo um desempenho eficiente. O seu limite de conhecimento é 30 de setembro de 2024.

O modelo aceita entradas de texto e ficheiros e devolve texto. Tem uma janela de contexto de 32.768 tokens e uma saída máxima de 26.214 tokens, pelo que consegue lidar com entradas bastante longas e produzir conclusões extensas num único pedido. Os parâmetros de pedido suportados incluem frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools e top_p. A presença de tools e tool_choice significa que pode ser usado em fluxos de trabalho de chamada de funções ou no estilo de agentes, enquanto structured_outputs e response_format permitem restringir a forma do texto devolvido.

Devido ao seu foco regional, o Saba adequa-se a aplicações em que a língua, a terminologia e o contexto do Médio Oriente e do Sul da Ásia são importantes: assistentes de apoio ao cliente, geração e resumo de conteúdos para públicos dessas regiões, resposta a perguntas sobre documentos carregados e tarefas de extração ou classificação em que a formulação localmente relevante afeta a qualidade. A modalidade de entrada de ficheiros é útil para fluxos de trabalho que passam documentos diretamente ao modelo em vez de colar texto, e os parâmetros de ferramentas suportam pipelines que precisam de chamar funções ou APIs externas. O contexto de 32.768 tokens é viável para relatórios longos, conversas com vários turnos e conjuntos moderados de documentos, embora corpora muito grandes necessitem de fragmentação ou recuperação.

Chama o modelo através da API compatível com OpenAI da api14 usando o id de modelo "mistralai/mistral-saba". Aponte o seu cliente OpenAI existente para o URL base da api14, envie um pedido de chat completions com esse id e passe qualquer um dos parâmetros suportados listados acima da forma habitual. Como a interface é compatível com OpenAI, o código escrito para modelos OpenAI geralmente funciona com alterações mínimas além do id de modelo e do endpoint.

Tenha em conta os limites de contexto e de saída ao conceber pedidos: entradas acima de 32.768 tokens têm de ser reduzidas ou divididas, e as respostas estão limitadas a 26.214 tokens. Se a sua tarefa depender de conhecimento posterior a 30 de setembro de 2024, ou estiver fora do foco no Médio Oriente e no Sul da Ásia, onde um modelo de uso geral pode ser mais adequado, considere outro modelo na api14.