MoonshotAI: Kimi K3 (batch)

MoonshotAI: Kimi K3 (batch) è un modello di generazione di testo di Moonshot AI, identificato su api14 con il model id moonshotai/kimi-k3:batch. È un modello di ragionamento multimodale con pesi aperti e 2,8 trilioni di parametri, progettato per carichi di lavoro impegnativi piuttosto che per chat leggere. La variante batch è la versione che si chiama tramite api14 e mantiene la stessa identità e lo stesso comportamento del modello della release base Kimi K3 del provider.

Il modello accetta testo, immagini e video come input e produce testo come output. La sua finestra di contesto è di 1.048.576 token, abbastanza ampia da contenere interi codebase, lunghi insiemi di documenti o cronologie di conversazione estese in una singola richiesta. La lunghezza massima di output è di 16.384 token per risposta. Poiché è un modello di ragionamento, può spendere parte del suo budget di generazione in ragionamento interno prima di produrre la risposta finale, e questo comportamento può essere influenzato tramite i parametri reasoning e reasoning_effort.

Queste capacità indicano alcuni usi pratici. Le attività di programmazione complesse si adattano bene, incluso il lavoro su repository di grandi dimensioni in cui l'intero codice sorgente deve essere nel contesto. Il knowledge work come riassumere, confrontare o estrarre da documenti e report lunghi è un altro impiego naturale, soprattutto quando il materiale di partenza include immagini o video che devono essere interpretati insieme al testo. Anche i flussi di lavoro agentici a lungo orizzonte sono un caso d'uso previsto, in cui il modello pianifica su molti passaggi, chiama strumenti e tiene traccia dello stato attraverso un contesto lungo.

Si chiama il modello tramite l'API compatibile con OpenAI di api14 usando il model id moonshotai/kimi-k3:batch. La richiesta supporta frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k e top_p. La chiamata agli strumenti e gli output strutturati sono disponibili tramite i parametri tools, tool_choice, response_format e structured_outputs, e il campionamento può essere regolato con temperature, top_p, top_k, min_p e i parametri di penalità. È possibile impostare un seed per un campionamento riproducibile.

Tenere presente il limite di output: le risposte sono limitate a 16.384 token, quindi le attività che richiedono una singola risposta molto lunga possono richiedere di suddividere il lavoro su più chiamate. Il modello produce inoltre solo testo, quindi qualsiasi input di immagini o video viene interpretato per produrre testo anziché un output multimediale generato. Per attività di testo semplici e brevi, un modello più piccolo e più veloce può essere una scelta più economica rispetto a un modello di ragionamento da 2,8T parametri.