MoonshotAI: Kimi K3 (batch)

MoonshotAI: Kimi K3 (batch) to model generowania tekstu od Moonshot AI, identyfikowany na api14 przez identyfikator modelu moonshotai/kimi-k3:batch. To multimodalny model rozumujący z otwartymi wagami i 2,8 biliona parametrów, zbudowany do wymagającej pracy, a nie lekkiego czatu. Wariant batch to wersja, którą wywołujesz przez api14, i zachowuje tę samą tożsamość modelu oraz zachowanie co bazowe wydanie Kimi K3 od dostawcy.

Model przyjmuje jako dane wejściowe tekst, obrazy i wideo, a zwraca tekst jako dane wyjściowe. Jego okno kontekstu wynosi 1 048 576 tokenów, co jest wystarczająco duże, aby pomieścić całe bazy kodu, długie zestawy dokumentów lub rozszerzone historie rozmów w jednym żądaniu. Maksymalna długość danych wyjściowych to 16 384 tokeny na odpowiedź. Ponieważ jest to model rozumujący, może przeznaczyć część swojego budżetu generowania na wewnętrzne rozumowanie przed wygenerowaniem ostatecznej odpowiedzi, a to zachowanie można kontrolować za pomocą parametrów reasoning i reasoning_effort.

Te możliwości wskazują na kilka praktycznych zastosowań. Złożone zadania programistyczne dobrze pasują, w tym praca w dużych repozytoriach, gdzie pełny kod źródłowy musi znajdować się w kontekście. Praca z wiedzą, taka jak streszczanie, porównywanie lub wyodrębnianie z długich dokumentów i raportów, to kolejne naturalne zastosowanie, zwłaszcza gdy materiał źródłowy zawiera obrazy lub wideo, które trzeba zinterpretować razem z tekstem. Długoterminowe przepływy pracy agentów są również docelowym przypadkiem użycia, gdzie model planuje przez wiele kroków, wywołuje narzędzia i śledzi stan w długim kontekście.

Model wywołujesz przez kompatybilne z OpenAI API api14, używając identyfikatora modelu moonshotai/kimi-k3:batch. Żądanie obsługuje frequency_penalty, include_reasoning, logit_bias, max_tokens, min_p, presence_penalty, reasoning, reasoning_effort, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k oraz top_p. Wywoływanie narzędzi i ustrukturyzowane dane wyjściowe są dostępne przez parametry tools, tool_choice, response_format i structured_outputs, a próbkowanie można dostroić za pomocą temperature, top_p, top_k, min_p oraz parametrów kary. Seed można ustawić dla powtarzalnego próbkowania.

Pamiętaj o pułapie danych wyjściowych: odpowiedzi są ograniczone do 16 384 tokenów, więc zadania wymagające jednej bardzo długiej odpowiedzi mogą wymagać podzielenia pracy na kilka wywołań. Model generuje wyłącznie tekst, więc każde wejście w postaci obrazu lub wideo jest interpretowane w celu uzyskania tekstu, a nie wygenerowanych mediów. W przypadku prostych, krótkich zadań tekstowych mniejszy i szybszy model może być bardziej ekonomicznym wyborem niż model rozumujący z 2,8 biliona parametrów.