Mistral: Mistral Medium 3.5 (batch)

Mistral Medium 3.5 (batch) è un modello di generazione di testo di Mistral AI, identificato su api14 come mistralai/mistral-medium-3-5:batch. È un modello dense da 128B addestrato a seguire istruzioni, il che significa che tutti i suoi parametri sono attivi a ogni richiesta invece di essere instradati attraverso una configurazione mixture-of-experts. La variante batch è la versione esposta attraverso questo endpoint, e il modello si colloca nella categoria text su api14.

Il modello accetta input di testo, immagini e file, e restituisce solo testo. La sua finestra di contesto è di 262.144 token, e la lunghezza massima di output è di 209.715 token, quindi può ricevere input molto grandi e produrre risposte lunghe in una singola chiamata. Poiché immagini e file sono accettati insieme al testo, puoi inviare prompt misti che combinano istruzioni scritte con contenuti visivi o documentali, e il modello ragionerà su tutto questo prima di generare la sua risposta.

Queste capacità indicano alcuni usi pratici. L'ampia finestra di contesto si adatta al lavoro su documenti lunghi, basi di codice o input multi-file in cui altrimenti dovresti suddividere e ricomporre i risultati. L'input di immagini lo rende adatto a compiti che mescolano screenshot, diagrammi o pagine scansionate con istruzioni testuali. Mistral descrive il modello come progettato per flussi di lavoro agentici, coding e compiti complessi, quindi il tool calling e la generazione strutturata sono punti di partenza ragionevoli. La variante batch è una scelta naturale per lavori offline o orientati al throughput in cui invii molte richieste e raccogli i risultati, piuttosto che per chat interattive dove la latenza è più importante.

Chiami il modello attraverso l'API compatibile con OpenAI di api14 usando l'id del modello mistralai/mistral-medium-3-5:batch. L'endpoint supporta frequency_penalty, include_reasoning, max_tokens, presence_penalty, reasoning, reasoning_effort, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools e top_p. In pratica questo significa che puoi controllare il campionamento con temperature, top_p e i due parametri di penalità, limitare l'output con max_tokens, fissare la casualità con seed e definire sequenze di stop. Per il lavoro strutturato, response_format e structured_outputs ti permettono di vincolare la forma della risposta, mentre tools e tool_choice supportano il function calling, e i parametri di reasoning ti permettono di regolare quanta ragionamento interno il modello espone o esegue.

Una cosa da valutare è la designazione batch. Se la tua applicazione necessita di risposte a bassa latenza, turno per turno, un modello non batch è probabilmente più adatto, e lo stesso vale se hai bisogno solo di input e output testuali, poiché le modalità immagine e file rimarrebbero inutilizzate. Il contesto di 262.144 token e il tetto di output di 209.715 token sono generosi, ma sono comunque finiti, quindi corpora estremamente grandi potrebbero dover essere suddivisi tra più chiamate. Entro questi limiti, il modello copre lavoro testuale a contesto lungo, prompt multimodali, coding e flussi agentici guidati da tool da un singolo endpoint.