MoonshotAI: Kimi K2 0711

Kimi K2 0711 is een tekstmodel van Moonshot AI, geïdentificeerd op api14 als moonshotai/kimi-k2. Het is een grootschalig Mixture-of-Experts (MoE) taalmodel met 1 biljoen totale parameters en 32 miljard actief per forward pass, wat betekent dat slechts een fractie van het netwerk wordt gebruikt voor elk token dat het genereert. De releasedatum van de provider is 2025-07-11, en de knowledge cutoff van het model is 2024-12-31, dus alles na die datum valt buiten wat het tijdens de training heeft geleerd.

Het model werkt met tekst in en tekst uit. Het accepteert een contextvenster van 131.072 tokens en kan tot 98.304 tokens produceren in een enkele respons, wat een groot uitvoerbudget is in vergelijking met de meeste chatmodellen. Die combinatie past bij workloads waarbij de invoer lang is (documentatie, transcripties, codebases) en het verwachte antwoord ook lang is, zoals een volledig rapport of een substantiële refactor in plaats van een antwoord van één regel.

Omdat het tool calling ondersteunt, past Kimi K2 bij agent-achtige workflows waarbij het model beslist wanneer het een functie aanroept en welke argumenten het doorgeeft. Typische toepassingen zijn meerstapsassistenten die interne API's bevragen, retrieval augmented generation over grote documentsets, langere samenvattingen en conceptteksten, en codegeneratie of review waarbij het model veel omliggende context moet vasthouden. Het hoge uitvoerplafond maakt het ook redelijk voor taken die anders over meerdere aanroepen zouden moeten worden opgesplitst.

Je roept het aan via de OpenAI-compatibele API van api14 met het model-id "moonshotai/kimi-k2", dus bestaande OpenAI SDK's en clients werken met alleen een gewijzigde base URL en key. De request-parameters die het ondersteunt zijn frequency_penalty, max_tokens, presence_penalty, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k en top_p. De aanwezigheid van seed maakt meer reproduceerbare sampling mogelijk, en tools plus tool_choice laten je functieschema's definiëren en bepalen of het model er een moet aanroepen.

Houd de limieten in gedachten bij het kiezen ervan. Invoer en uitvoer zijn alleen tekst, dus beeld- of audiotaken hebben een ander model nodig, en het contextvenster van 131.072 tokens en de uitvoerlimiet van 98.304 tokens bepalen hoeveel in één request kan worden verwerkt. De knowledge cutoff van 2024-12-31 betekent dat recente gebeurtenissen niet worden gedekt, tenzij je ze in de prompt of via tools aanlevert. Voor korte, eenvoudige requests kan een kleiner model beter passen.