Mistral: Mistral Small 3.1 24B

Mistral Small 3.1 24B Instruct è un modello di generazione di testo di Mistral, rilasciato dal provider il 17 marzo 2025. È una variante aggiornata di Mistral Small 3 (2501) e conta 24 miliardi di parametri. Su api14 si colloca nella categoria testo, e il model id da usare quando lo si chiama è mistralai/mistral-small-3.1-24b-instruct.

Il modello accetta testo e immagini come input e restituisce testo. La sua finestra di contesto è di 128.000 token, con un output massimo di 102.400 token, quindi documenti lunghi e generazioni lunghe trovano entrambi comodamente posto in una singola richiesta. Il knowledge cutoff è il 31 ottobre 2023. L'input multimodale significa che puoi passare immagini insieme a prompt testuali, il che è utile quando un'attività dipende da informazioni che esistono solo in uno screenshot, in un diagramma o in una pagina scansionata.

Poiché gestisce sia testo sia immagini su un contesto ampio, il modello è adatto ad attività di comprensione di documenti e immagini: riassumere report lunghi, estrarre dati strutturati da moduli scansionati o screenshot, rispondere a domande basate su un documento fornito, e flussi di lavoro misti testo e immagini. Il contesto da 128k lo rende inoltre ragionevole per domande a livello di codebase, cronologie di conversazione lunghe e analisi in stile batch in cui vuoi inviare molto materiale in una sola chiamata. Il supporto al tool e al function calling estende tutto questo a pipeline in stile agente che devono recuperare dati o attivare azioni.

Chiami il modello tramite l'API compatibile con OpenAI di api14 usando il model id mistralai/mistral-small-3.1-24b-instruct, il che significa che gli SDK e i client OpenAI esistenti funzionano cambiando solo la base URL e la chiave. I parametri di richiesta supportati sono frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs e top_p. Gli structured outputs e i controlli di campionamento sono utili quando ti serve un JSON prevedibile o generazioni strettamente vincolate, mentre seed aiuta con la riproducibilità durante i test.

Due limiti vale la pena notare prima di impegnarti. Il knowledge cutoff è il 31 ottobre 2023, quindi qualsiasi cosa successiva a quella data deve arrivare dal tuo prompt o da tool, non dalla conoscenza del modello stesso. L'output è solo testo, quindi se ti servono immagini o audio generati, questo modello non è la scelta giusta. Per attività puramente testuali e ben all'interno di un contesto più piccolo, un modello più leggero può essere più economico e veloce, ma per input multimodale a 128k token questo copre un'ampia gamma di lavori.