Mistral: Mistral Nemo

Mistral Nemo è un modello testuale di Mistral, realizzato in collaborazione con NVIDIA. È un modello con 12B parametri, e la data di rilascio del provider è stata il 19 luglio 2024. Il modello è multilingue, supporta inglese, francese, tedesco, spagnolo, italiano, portoghese, cinese, giapponese e altre lingue. Se stai scegliendo un modello per un progetto, questo si colloca nel tier più piccolo ed efficiente della lineup di Mistral, piuttosto che nei modelli flagship più grandi.

Il modello prende testo come input e restituisce testo come output, quindi è un semplice modello linguistico senza gestione di immagini o audio. La sua finestra di contesto è di 131072 token, abbastanza ampia da contenere documenti lunghi, conversazioni estese o file di codice di dimensioni considerevoli in una singola richiesta. L'output massimo è di 16384 token, quindi le risposte possono essere lunghe ma sono limitate ben al di sotto del limite di input. Il suo knowledge cutoff è il 30 aprile 2024, il che è importante se il tuo compito dipende da eventi o informazioni successive a quella data.

Queste capacità indicano alcuni usi pratici. Il contesto lungo si adatta a riassumere o estrarre informazioni da report, contratti e trascrizioni prolungati, e il supporto multilingue aiuta con la traduzione e con applicazioni che servono utenti in diverse lingue. Poiché il modello accetta e restituisce solo testo, si adatta ad assistenti chat, risposta a domande su documenti forniti, redazione e riscrittura, classificazione e altri compiti di trasformazione del testo. Il limite di output di 16384 token significa che documenti generati molto lunghi potrebbero dover essere prodotti in più passaggi.

Puoi chiamare il modello tramite l'API compatibile con OpenAI di api14 usando il model id "mistralai/mistral-nemo". I parametri di richiesta supportati sono frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs e top_p. Questo insieme copre controlli di campionamento, seeding deterministico, sequenze di stop, output strutturati e tool calling, quindi puoi modellare sia lo stile dell'output sia il suo formato senza uscire dall'interfaccia standard.

Vale la pena tenere a mente alcuni limiti. Input e output sono solo testo, quindi i compiti che richiedono l'analisi di immagini o audio necessitano di un modello diverso. Il knowledge cutoff del 30 aprile 2024 significa che il modello non ha consapevolezza integrata di eventi successivi, e il limite di output di 16384 token vincola la lunghezza di una singola risposta. Se il tuo carico di lavoro dipende da uno di questi aspetti, un altro modello potrebbe essere più adatto.