Mistral: Ministral 3 8B 2512 (batch)

Mistral: Ministral 3 8B 2512 (batch) è un modello di generazione di testo di Mistral, parte della famiglia Ministral 3. Mistral lo descrive come un modello equilibrato all'interno di quella famiglia: un piccolo modello linguistico potente ed efficiente con capacità di visione. L'id del modello su api14 è mistralai/ministral-8b-2512:batch, e il suffisso batch indica che questa variante viene servita tramite un endpoint batch anziché sincrono, il che si adatta a carichi di lavoro in cui si invia il lavoro e si raccolgono i risultati invece di attendere ogni chiamata.

Il modello accetta input di testo e immagini e produce output testuale, quindi può gestire sia attività di linguaggio semplice sia prompt che includono immagini. La sua finestra di contesto è di 262144 token, e l'output massimo è di 209715 token. Questa combinazione di un contesto ampio e di un ampio budget di output significa che puoi inserire documenti lunghi o prompt lunghi di immagini più testo e lasciare comunque spazio per una risposta generata sostanziosa. I parametri di richiesta supportati includono temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice e tools.

Queste capacità indicano alcuni usi pratici. Il lavoro testuale a contesto lungo, come riassumere o estrarre da documenti lunghi, si adatta alla finestra di 262144 token. Poiché le immagini sono accettate come input, attività come descrivere un'immagine, rispondere a domande su uno screenshot o estrarre testo e struttura da una pagina scansionata rientrano nell'ambito. La chiamata di strumenti e gli output strutturati lo rendono utilizzabile per pipeline che necessitano che il modello restituisca JSON o invochi funzioni, e il parametro seed è utile quando si desiderano risultati ripetibili tra esecuzioni.

Per chiamarlo tramite api14, usa l'interfaccia chat completions compatibile con OpenAI con l'id del modello mistralai/ministral-8b-2512:batch. Puoi passare i consueti campi della richiesta chat insieme ai parametri elencati sopra: temperature, top_p, frequency_penalty, presence_penalty, max_tokens, stop, seed, response_format, structured_outputs, tool_choice e tools. Poiché questa è la variante batch, pianifica l'invio e il recupero asincroni anziché risposte immediate, e controlla la tabella dei prezzi live sulla pagina per le tariffe correnti.

Un limite da notare è la modalità di output: il modello legge le immagini ma restituisce solo testo, quindi non è adatto se hai bisogno di immagini generate. Se la tua attività è puramente testuale e non necessita di visione o della finestra di contesto molto ampia, un modello più piccolo o non batch potrebbe rispondere più velocemente e con meno overhead operativo.