MoonshotAI: Kimi K2 0711

Kimi K2 0711 to model tekstowy od Moonshot AI, identyfikowany na api14 jako moonshotai/kimi-k2. Jest to wielkoskalowy model językowy typu Mixture-of-Experts (MoE) z 1 bilionem parametrów całkowitych i 32 miliardami aktywnych na każdy przebieg w przód, co oznacza, że tylko część sieci jest angażowana dla każdego generowanego tokenu. Data wydania przez dostawcę to 2025-07-11, a data odcięcia wiedzy modelu to 2024-12-31, więc wszystko po tej dacie wykracza poza to, czego nauczył się podczas treningu.

Model działa na zasadzie tekst na wejściu i tekst na wyjściu. Akceptuje okno kontekstu o rozmiarze 131 072 tokenów i może wygenerować do 98 304 tokenów w pojedynczej odpowiedzi, co stanowi duży budżet wyjściowy w porównaniu z większością modeli czatowych. Ta kombinacja pasuje do zadań, w których dane wejściowe są długie (dokumentacja, transkrypcje, bazy kodu), a oczekiwana odpowiedź jest również długa, na przykład pełny raport lub znaczący refaktoring, a nie odpowiedź w jednej linii.

Ponieważ obsługuje wywoływanie narzędzi, Kimi K2 pasuje do przepływów pracy w stylu agentowym, w których model decyduje, kiedy wywołać funkcję i jakie argumenty przekazać. Typowe zastosowania obejmują asystentów wieloetapowych, którzy odpytywają wewnętrzne API, generowanie wspomagane wyszukiwaniem na dużych zbiorach dokumentów, streszczanie i redagowanie długich tekstów oraz generowanie lub przegląd kodu, gdzie model musi utrzymać duży kontekst otaczający. Wysoki limit wyjścia sprawia również, że jest rozsądny dla zadań, które w innym przypadku trzeba by podzielić na kilka wywołań.

Wywołujesz go przez API zgodne z OpenAI na api14, używając identyfikatora modelu "moonshotai/kimi-k2", więc istniejące zestawy SDK i klienty OpenAI działają po zmianie tylko bazowego adresu URL i klucza. Obsługiwane parametry żądania to frequency_penalty, max_tokens, presence_penalty, repetition_penalty, seed, stop, temperature, tool_choice, tools, top_k i top_p. Obecność seed pozwala na bardziej powtarzalne próbkowanie, a tools wraz z tool_choice pozwalają zdefiniować schematy funkcji i kontrolować, czy model musi jedną wywołać.

Pamiętaj o ograniczeniach przy jego wyborze. Wejście i wyjście są tylko tekstowe, więc zadania związane z obrazem lub dźwiękiem wymagają innego modelu, a kontekst 131 072 tokenów i limit wyjścia 98 304 tokenów ograniczają, ile można obsłużyć w jednym żądaniu. Data odcięcia wiedzy 2024-12-31 oznacza, że ostatnie wydarzenia nie są objęte, chyba że dostarczysz je w prompcie lub przez narzędzia. W przypadku krótkich, prostych żądań mniejszy model może być lepszym wyborem.