Mistral: Saba

Mistral: Saba es un modelo de texto de Mistral, publicado por el proveedor el 17 de febrero de 2025. Es un modelo de lenguaje de 24B parámetros diseñado específicamente para Oriente Medio y Asia del Sur, entrenado con datos regionales seleccionados para ofrecer respuestas precisas y contextualmente relevantes manteniendo un rendimiento eficiente. Su fecha de corte de conocimiento es el 30 de septiembre de 2024.

El modelo acepta entradas de texto y archivos y devuelve texto. Tiene una ventana de contexto de 32.768 tokens y una salida máxima de 26.214 tokens, por lo que puede manejar entradas bastante largas y producir completados extensos dentro de una sola solicitud. Los parámetros de solicitud admitidos incluyen frequency_penalty, max_tokens, presence_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools y top_p. La presencia de tools y tool_choice significa que puede usarse en flujos de trabajo de llamada a funciones o estilo agente, mientras que structured_outputs y response_format permiten restringir la forma del texto devuelto.

Debido a su enfoque regional, Saba es adecuado para aplicaciones donde importan el idioma, la terminología y el contexto de Oriente Medio y Asia del Sur: asistentes de atención al cliente, generación y resumen de contenido para audiencias de esas regiones, respuesta a preguntas sobre documentos cargados y tareas de extracción o clasificación donde la formulación localmente relevante afecta la calidad. La modalidad de entrada de archivos es útil para flujos de trabajo que pasan documentos directamente al modelo en lugar de pegar texto, y los parámetros de herramientas admiten canalizaciones que necesitan llamar a funciones o API externas. El contexto de 32.768 tokens es viable para informes largos, conversaciones de varios turnos y conjuntos de documentos moderados, aunque los corpus muy grandes necesitarán fragmentación o recuperación.

Se llama al modelo a través de la API compatible con OpenAI de api14 usando el id de modelo "mistralai/mistral-saba". Apunte su cliente de OpenAI existente a la URL base de api14, envíe una solicitud de chat completions con ese id y pase cualquiera de los parámetros admitidos enumerados arriba de la forma habitual. Como la interfaz es compatible con OpenAI, el código escrito para modelos de OpenAI generalmente funciona con cambios mínimos más allá del id de modelo y el endpoint.

Tenga en cuenta los límites de contexto y salida al diseñar solicitudes: las entradas que superen los 32.768 tokens deben recortarse o dividirse, y las respuestas están limitadas a 26.214 tokens. Si su tarea depende de conocimiento posterior al 30 de septiembre de 2024, o queda fuera del enfoque en Oriente Medio y Asia del Sur donde un modelo de propósito general podría encajar mejor, considere otro modelo en api14 en su lugar.