Xiaomi: MiMo-V2.6-Flash

MiMo-V2.6-Flash è un modello di base open-source di Xiaomi, elencato su api14 con l'id modello xiaomi/mimo-v2.6-flash. Appartiene alla categoria testo ed è costruito su un'architettura Mixture-of-Experts con 309B parametri totali e 15B attivati per token, utilizzando un meccanismo di attenzione ibrido. Xiaomi lo posiziona come modello di base anziché come sistema ristretto specifico per un compito, quindi è pensato per servire come base generale per un'ampia gamma di attività linguistiche.

Il modello accetta testo, immagini, video e audio come input, e produce testo come output. La sua finestra di contesto è di 1.050.000 token, e la lunghezza massima di output è di 131.072 token. Questa combinazione di un contesto molto ampio e input multimodale significa che una singola richiesta può trasportare documenti lunghi insieme a immagini, video o audio, e restituire comunque una risposta testuale sostanziosa. I parametri di richiesta supportati includono temperature, top_p, top_k, min_p, frequency_penalty, presence_penalty, repetition_penalty, max_tokens, stop, seed, logit_bias, logprobs, top_logprobs, response_format, structured_outputs, tools, tool_choice, reasoning e include_reasoning.

Queste capacità indicano alcuni schemi pratici. Il lavoro su contesti lunghi, come riassumere o interrogare grandi insiemi di documenti, basi di codice o trascrizioni, si adatta naturalmente, poiché la finestra è abbastanza ampia da contenere materiale che altrimenti richiederebbe una suddivisione in blocchi. Poiché immagini, video e audio possono essere forniti come input, il modello può essere utilizzato per attività come descrivere contenuti multimediali, estrarre informazioni da screenshot o pagine scansionate, o rispondere a domande su materiale registrato, con la risposta restituita come testo. La chiamata di strumenti e gli output strutturati lo rendono adatto a pipeline in cui il modello deve chiamare funzioni o emettere JSON che il codice a valle possa analizzare, e i parametri reasoning e include_reasoning offrono un modo per richiedere o ispezionare il ragionamento intermedio quando ciò è utile.

Chiamarlo tramite api14 funziona allo stesso modo di qualsiasi altro modello compatibile con OpenAI. Invia una richiesta all'endpoint chat completions con il campo model impostato su xiaomi/mimo-v2.6-flash, e passa i messaggi nel formato OpenAI usuale, includendo le parti di contenuto multimodale per input di immagini, video o audio. I parametri elencati sopra possono essere impostati nel corpo della richiesta; i controlli di campionamento come temperature, top_p, top_k e min_p modellano la generazione, max_tokens limita l'output, e tools, tool_choice, response_format e structured_outputs coprono la chiamata di funzioni e le risposte strutturate. Lo streaming e le librerie client OpenAI standard dovrebbero funzionare come previsto con l'interfaccia compatibile.

Una cosa da tenere a mente è che l'output è solo testo, quindi il modello non può generare immagini, video o audio in risposta. Se un'attività richiede di produrre contenuti multimediali anziché descriverli o ragionare su di essi, sarebbe necessario un modello diverso. Il contesto ampio e il limite di output di 131.072 token significano anche che le richieste possono essere pesanti, quindi per prompt brevi e semplici un modello più piccolo potrebbe essere una scelta più proporzionata.